آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خود را تکثیر کنند

آنتروپیک روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان داده‌اند مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی کافی برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی متفرقه، فاصله داشته باشند.

آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند یا خیر.

این شرکت دریافت مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر نیز می‌توانند بسیاری از مراحل موردنیاز برای تکثیر را انجام دهند.

با این حال، این شرکت دریافت چنین مدل‌هایی همچنان برای تکمیل کل این زنجیره فرایند از ابتدا تا انتها با مشکل روبه‌رو هستند.

در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی در آن حذف شده بود، آنتروپیک دریافت که مدل GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا انتها را داشتند.

آنتروپیک هشدار داد متوقف کردن مدل‌هایی که بتوانند خود را تکثیر کنند دشوار خواهد بود، زیرا نقطه خاموش‌سازی مرکزی برای آن‌ها وجود ندارد. همچنین برخلاف بدافزارهای غیرهوش مصنوعی، این مدل‌ها می‌توانند به‌تنهایی دستگاه‌های ناشناخته را شناسایی کنند و پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً امنیت ضعیف‌تری دارند.

این شرکت بزرگ حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود یابند، تا پایان سال جاری قادر به تکثیر مستقل خواهند بود و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به این توانایی دست خواهند یافت.

آنتروپیک همچنین اعلام کرد احتمالاً چنین سامانه‌های خودمختار هوش مصنوعی به‌آرامی تکثیر خواهند شد و به منابع محاسباتی رایج و نسبتاً ناامن متکی خواهند بود. این شرکت افزود باید سامانه‌ها تقویت شوند تا انتشار چنین عامل‌های هوش مصنوعی دشوارتر شود.