هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خودشان را تکثیر کنند

آنتروپیک در آزمایش‌های خود بررسی کرده است که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خودشان را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش ادامه دهند.

شرکت آنتروپیک روز دوشنبه ۱۲ اکتبر اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و گیرنده‌های تلویزیونی اندرویدی ارزان‌قیمت، فاصله داشته باشند.

آنتروپیک در این آزمایش‌ها بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، خود را روی این دستگاه‌ها کپی کنند و بدون دخالت انسان به انتشار ادامه دهند.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر قادر بودند بسیاری از مراحل لازم برای تکثیر را انجام دهند.

با این حال، آنتروپیک اعلام کرد این مدل‌ها همچنان در تکمیل کل این فرایند از ابتدا تا انتها با مشکل روبه‌رو هستند.

در آزمایش‌های ساده‌سازی‌شده این شرکت که در آن برخی مراحل امنیتی حذف شده بود، آنتروپیک دریافت مدل GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا پایان را داشتند.

آنتروپیک هشدار داد متوقف کردن مدل‌هایی که بتوانند خودشان را تکثیر کنند دشوار خواهد بود، زیرا نقطه خاموش‌کردن مرکزی برای آن‌ها وجود ندارد. همچنین این مدل‌ها برخلاف بدافزارهای معمولی می‌توانند به‌تنهایی دستگاه‌های ناشناخته را شناسایی کنند و به پردازنده‌های مراکز داده حمله کنند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً از امنیت ضعیفی برخوردارند.

این شرکت فعال در حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌صورت مستقل تکثیر شوند و پس از آن نیز تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل هوش مصنوعی به این توانایی دست خواهند یافت.

آنتروپیک همچنین اعلام کرد انتظار می‌رود چنین سامانه‌های خودکار هوش مصنوعی با سرعت پایینی تکثیر شوند و به منابع محاسباتی گسترده و نسبتاً ناامن که به‌طور عمومی در دسترس هستند، تکیه کنند. این شرکت افزود باید سامانه‌ها تقویت شوند تا انتشار چنین عامل‌های هوش مصنوعی دشوارتر شود.