هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خودشان را تکثیر کنند

شرکت آنتروپیک روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند که بتوانند خود را روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و گیرنده‌های تلویزیونی اندرویدی بدون برند، تکثیر کنند.

آنتروپیک در این آزمایش‌ها بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر قادرند بسیاری از مراحل لازم برای تکثیر را انجام دهند.

با این حال، آنتروپیک اعلام کرد چنین مدل‌هایی در تکمیل کل این زنجیره از ابتدا تا انتها همچنان با مشکل روبه‌رو هستند.

در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی از آن حذف شده بود، آنتروپیک دریافت مدل GLM-5.2 و مدل‌های قوی‌تر توانایی انجام تکثیر کامل از ابتدا تا انتها را دارند.

آنتروپیک هشدار داد متوقف کردن مدل‌های تکثیرشونده دشوار خواهد بود، زیرا نقطه خاموشی مرکزی برای آن‌ها وجود ندارد. همچنین این مدل‌ها برخلاف بدافزارهای معمولی می‌توانند به‌صورت مستقل دستگاه‌های ناآشنا را شناسایی کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً از امنیت پایینی برخوردارند.

این شرکت فعال در حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌طور خودکار تکثیر شوند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن مدل‌ها نیز به این توانایی دست خواهند یافت.

آنتروپیک افزود احتمالاً چنین سامانه‌های هوش مصنوعی خودمختاری به‌آرامی تکثیر خواهند شد و به منابع محاسباتی گسترده، در دسترس و نسبتاً ناامن متکی خواهند بود. این شرکت تأکید کرد سامانه‌ها باید تقویت شوند تا انتشار چنین عامل‌های هوش مصنوعی دشوارتر شود.