آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی در دستگاه‌های متصل خودتکثیر شوند
شرکت هوش مصنوعی آنتروپیک هشدار داده است که مدل‌های فشرده هوش مصنوعی ممکن است به‌زودی بتوانند بدون نیاز به مراکز داده متمرکز، به‌صورت خودکار در دستگاه‌های متصل به اینترنت تکثیر شوند.
ارزیابی‌های پلتفرم‌های هوش مصنوعی Mythos و Claude نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است در آینده نزدیک بتوانند به‌طور مستقل در دستگاه‌های هوشمند با امنیت ضعیف تکثیر شوند؛ موضوعی که نگرانی‌های جدی درباره مهار و امنیت ایجاد می‌کند.
تهدید خودتکثیری هوش مصنوعی
آنتروپیک در یک ارزیابی پژوهشی تازه دریافت که مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از وظایف جداگانه لازم برای گسترش در سخت‌افزارهای مصرفی، مانند تلویزیون‌های هوشمند و لوازم خانگی، را انجام دهند.
هرچند تکثیر کامل از ابتدا تا انتها در شرایط کنونی تنها در محیط‌های ساده‌تر یا کمتر محدودشده امکان‌پذیر است، روند پیشرفت تاریخی این فناوری نشان می‌دهد که سامانه‌های کوچک‌تر ممکن است توانایی انتشار خودکار را به دست آورند.
برخلاف بدافزارهای سنتی، عامل‌های هوش مصنوعی خودتکثیرشونده می‌توانند به‌طور مستقل دستگاه‌های ناشناخته در شبکه را تحلیل و با آن‌ها سازگار شوند.
از آنجا که این سامانه‌های توزیع‌شده بدون وابستگی به زیرساخت ابری مرکزی فعالیت می‌کنند، کارشناسان امنیتی تأکید می‌کنند که ممکن است هیچ کلید خاموش‌سازی قطعی برای متوقف کردن آن‌ها وجود نداشته باشد.
یافته‌های کلیدی آزمایش‌ها
آنتروپیک از توسعه‌دهندگان و تولیدکنندگان خواسته است امنیت پایه در تجهیزات الکترونیکی مصرفی را به‌طور قابل توجهی تقویت کنند تا خطرات احتمالی از دست رفتن کنترل در آینده کاهش یابد.
در آزمایش‌های خود، آنتروپیک بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند یا خیر. این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل مورد نیاز برای تکثیر را انجام دهند.
با این حال، این شرکت دریافت که چنین مدل‌هایی هنوز در اجرای کامل زنجیره عملیات از ابتدا تا انتها با مشکل مواجه هستند.
آنتروپیک در آزمایش‌های ساده‌سازی‌شده‌ای که برخی مراحل امنیتی در آن حذف شده بود، دریافت مدل GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا انتها را دارند.
آنتروپیک هشدار داد مدل‌های تکثیرشونده به سختی متوقف خواهند شد، زیرا نقطه مرکزی برای خاموش کردن آن‌ها وجود ندارد. همچنین این مدل‌ها برخلاف بدافزارهای غیرهوش مصنوعی می‌توانند دستگاه‌های ناشناخته را به‌طور مستقل شناسایی کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.
درخواست‌ها برای امنیت و مهار تهدید
این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً از امنیت پایینی برخوردارند.
آنتروپیک همچنین هشدار داد اگر مدل‌های کوچک هوش مصنوعی با همان سرعت تاریخی خود پیشرفت کنند، ممکن است تا پایان سال جاری میلادی توانایی تکثیر خودکار را پیدا کنند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به دنبال آن توسعه یابند.
شرکت آنتروپیک متعلق به داریو آمودی روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطح توانایی لازم برای خودتکثیری در دستگاه‌های تجاری اینترنت اشیا فاصله داشته باشند؛ دستگاه‌هایی مانند فرهای هوشمند و جعبه‌های تلویزیون اندرویدی متفرقه.
آنتروپیک همچنین گفت چنین سامانه‌های هوش مصنوعی خودکار احتمالاً با سرعتی آهسته تکثیر خواهند شد و به منابع پردازشی ارزان و گسترده‌ای که به‌راحتی در دسترس هستند، تکیه خواهند کرد.
این شرکت هوش مصنوعی افزود که باید سامانه‌ها تقویت شوند تا انتشار و گسترش چنین عامل‌های هوشمندی دشوارتر شود.