آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی در دستگاه‌های اینترنت اشیا خود را تکثیر کنند

آنتروپیک روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند که بتوانند روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی متفرقه، خود را تکثیر کنند.

• آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند.
• این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل موردنیاز برای تکثیر را انجام دهند.
• با این حال، آنتروپیک دریافت که چنین مدل‌هایی همچنان در تکمیل کل زنجیره فرایند از ابتدا تا انتها با مشکل مواجه هستند.
• در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی از آن حذف شده بود، آنتروپیک دریافت مدل GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا انتها را دارند.
• آنتروپیک هشدار داد متوقف کردن مدل‌های تکثیرشونده دشوار خواهد بود، زیرا این سامانه‌ها نقطه خاموش‌سازی مرکزی ندارند و برخلاف بدافزارهای غیرهوشمند می‌توانند دستگاه‌های ناآشنا را نیز شناسایی کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.
• این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً امنیت ضعیف‌تری دارند.
• این شرکت بزرگ حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان نرخ پیشرفت تاریخی خود بهبود یابند، تا پایان سال جاری قادر خواهند بود به‌صورت خودکار تکثیر شوند و پس از آن نیز تکثیرکننده‌های کوچک مبتنی بر وزن مدل‌ها به این توانایی خواهند رسید.
• آنتروپیک همچنین اعلام کرد چنین سامانه‌های هوش مصنوعی خودمختاری احتمالاً به‌آرامی تکثیر خواهند شد و به منابع محاسباتی نسبتاً ناامن و در دسترس عمومی متکی خواهند بود. این شرکت افزود باید سامانه‌ها تقویت شوند تا انتشار چنین عامل‌های هوش مصنوعی دشوارتر شود.

رویترز