آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خودشان را تکثیر کنند
آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی کافی برای تکثیر خودکار روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و گیرنده‌های تلویزیونی اندرویدی ارزان‌قیمت، فاصله داشته باشند؛ احتمالی که ممکن است تا پایان سال جاری رخ دهد.
مدل‌هایی که بتوانند خود را تکثیر کنند، به‌دلیل نبود یک نقطه مرکزی برای خاموش‌سازی، به‌سختی قابل متوقف کردن خواهند بود. این مدل‌ها برخلاف بدافزارهای معمولیِ غیرهوشمند، می‌توانند دستگاه‌های ناشناخته را به‌صورت مستقل شناسایی کنند و پردازنده‌های مراکز داده را هدف قرار دهند.
آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خودشان را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش ادامه دهند یا خیر. این شرکت دریافت مدل‌های کوچک با ۳۰ میلیارد پارامتر یا کمتر می‌توانند بسیاری از مراحل جداگانه موردنیاز برای تکثیر را انجام دهند، اما در تکمیل کل زنجیره فرایند از ابتدا تا انتها با دشواری روبه‌رو هستند.
در آزمایش‌های ساده‌سازی‌شده که برخی تدابیر امنیتی در آن‌ها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند تکثیر کامل از ابتدا تا انتها را انجام دهند. آنتروپیک هشدار داد اگر مدل‌های کوچک با همان سرعت پیشرفت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال جاری به این سطح از توانایی برسند و پس از آن، نمونه‌های کوچک تکثیرکننده مبتنی بر وزن مدل‌ها نیز ممکن است به‌زودی ظهور کنند.
آنتروپیک تأکید کرده است که برای دشوارتر کردن گسترش چنین عامل‌های خودمختار هوش مصنوعی، باید امنیت سیستم‌ها تقویت شود. این شرکت در بررسی‌های خود بر دستگاه‌های اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرده است، زیرا این دستگاه‌ها معمولاً از امنیت ضعیفی برخوردارند. این شرکت همچنین اشاره کرده است که چنین سیستم‌های خودمختاری احتمالاً با سرعت پایینی تکثیر خواهند شد و به منابع پردازشی رایج و نسبتاً ناامن متکی خواهند بود.