هشدار آنتروپیک: مدل‌های کوچک هوش مصنوعی به خودتکثیری نزدیک شده‌اند

بر اساس پژوهشی که آنتروپیک روز دوشنبه منتشر کرد، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی کپی‌کردن خود روی دستگاه‌های معمولی متصل به اینترنت، مانند فرهای هوشمند و گیرنده‌های ارزان تلویزیون اندرویدی، فاصله داشته باشند.

این شرکت هوش مصنوعی در آزمایش‌های خود بررسی کرد که آیا مدل‌ها می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند یا خیر.

نتایج نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل جداگانه موردنیاز برای این فرایند را انجام دهند، اما در تکمیل کل فرایند از ابتدا تا انتها با مشکل روبه‌رو هستند.

آنتروپیک در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی در آن‌ها حذف شده بود، دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند خودتکثیری را از ابتدا تا پایان انجام دهند.

این شرکت تمرکز خود را بر ابزارهای متصل به اینترنت، مانند لوازم خانگی هوشمند و تلویزیون‌های اندرویدی، گذاشت؛ زیرا این دستگاه‌ها اغلب از سطح امنیتی پایینی برخوردارند.

آنتروپیک هشدار داد مدل‌های خودتکثیرشونده می‌توانند به‌سختی متوقف شوند، زیرا دیگر یک نقطه مرکزی برای خاموش‌کردن آن‌ها وجود نخواهد داشت. برخلاف بدافزارهای معمولی، این مدل‌ها همچنین می‌توانند به‌تنهایی نحوه کار با دستگاه‌های ناآشنا را یاد بگیرند.

این شرکت اعلام کرد اگر مدل‌های کوچک هوش مصنوعی با همان سرعت پیشین بهبود پیدا کنند، ممکن است تا پایان سال جاری میلادی قادر به خودتکثیری مستقل باشند.

با این حال، آنتروپیک تأکید کرد چنین سامانه‌هایی احتمالاً به‌آرامی گسترش خواهند یافت و به دستگاه‌هایی وابسته خواهند بود که به‌طور گسترده در دسترس هستند اما امنیت کافی ندارند. این شرکت خواستار تقویت تدابیر امنیتی شد تا انتشار چنین مدل‌هایی دشوارتر شود.