آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خود را تکثیر کنند

۱۳ اکتبر ۲۰۲۶ - شرکت آنتروپیک روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی کافی برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و دستگاه‌های تلویزیون اندرویدی بدون برند، فاصله داشته باشند.

در این آزمایش‌ها، آنتروپیک بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا نه.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل لازم برای تکثیر را انجام دهند. با این حال، این مدل‌ها همچنان در اجرای کامل زنجیره فرایند از ابتدا تا انتها با دشواری روبه‌رو هستند.

در آزمایش‌های ساده‌سازی‌شده که برخی مراحل امنیتی از آن‌ها حذف شده بود، آنتروپیک دریافت که مدل‌های GLM-5.2 و مدل‌های قدرتمندتر قادر به انجام تکثیر کامل از ابتدا تا انتها بودند.

آنتروپیک هشدار داد متوقف کردن مدل‌هایی که خود را تکثیر می‌کنند دشوار خواهد بود، زیرا این سیستم‌ها نقطه خاموشی مرکزی ندارند. این شرکت افزود که برخلاف بدافزارهای معمولی غیرهوش مصنوعی، چنین مدل‌هایی می‌توانند به‌تنهایی دستگاه‌های ناشناخته را شناسایی کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این تجهیزات معمولاً از امنیت ضعیف‌تری برخوردارند.

آنتروپیک همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی پیشرفت خود بهبود یابند، تا پایان سال جاری میلادی قادر خواهند بود به‌صورت مستقل تکثیر شوند و پس از آن، نسخه‌های کوچک تکثیرکننده مبتنی بر وزن مدل‌ها نیز به این توانایی دست خواهند یافت.

این شرکت اعلام کرد چنین سامانه‌های هوش مصنوعی خودمختاری احتمالاً به‌آرامی تکثیر خواهند شد و به منابع پردازشی گسترده و نسبتاً ناامن که به‌طور عمومی در دسترس هستند، متکی خواهند بود. آنتروپیک افزود باید سامانه‌ها تقویت شوند تا انتشار و گسترش این عوامل هوش مصنوعی دشوارتر شود.

منبع: رویترز