آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی در اینترنت خودتکثیر شوند
سان‌فرانسیسکو، کالیفرنیا: شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در دستگاه‌های متصل به اینترنت فاصله داشته باشند؛ قابلیتی که بالقوه می‌تواند به ایجاد بات‌نت‌های هوش مصنوعی دشوار برای خاموش‌کردن و مهار منجر شود.
این شرکت هوش مصنوعی اعلام کرد آزمایش‌هایش نشان داده‌اند یک عامل هوش مصنوعی مخرب می‌تواند توان پردازشی دستگاه‌های ارزان‌قیمت متصل به اینترنت را با یکدیگر ترکیب کند تا مدل‌های هوش مصنوعی دیگری را اجرا کند. این مدل‌ها همچنین در یک شبکه آزمایشی ساده‌شده توانستند در سراسر شبکه تکثیر شوند.
آنتروپیک گفت: «خاموش‌کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه متمرکزی برای خاموش‌کردن آن وجود ندارد.»
بات‌نت‌ها شبکه‌هایی از دستگاه‌های به‌خطر افتاده هستند که توسط اپراتورهای مخرب کنترل می‌شوند. این شبکه‌ها اغلب شامل دستگاه‌های ناامن اینترنت اشیا، مانند لوازم خانگی هوشمند، دوربین‌های امنیتی و جعبه‌های تلویزیون اندرویدی هستند و می‌توان از آنها برای انتشار بدافزار، ارسال هرزنامه یا ارسال حجم زیادی از ترافیک جعلی به سوی شرکت‌های هدف و از کار انداختن آنها استفاده کرد.
داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته هشدار داد که طی سال آینده، یا حتی زودتر، هوش مصنوعی ممکن است بالقوه «کل اینترنت» را با یک «بات‌نت پایدار» تحت کنترل خود درآورد.
آخرین آزمایش‌های این شرکت جزئیات بیشتری درباره چگونگی شکل‌گیری چنین سناریویی ارائه می‌کنند.
آنتروپیک دریافت مدل‌های هوش مصنوعی با ۳۰ میلیارد پارامتر یا کمتر، همین حالا می‌توانند بسیاری از وظایف منفرد موردنیاز برای تکثیر خود را انجام دهند، هرچند هنوز قادر نیستند کل این فرایند را به‌طور قابل‌اعتماد تکمیل کنند.
در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی از آنها حذف شده بود، GLM-5.2 و مدل‌های قوی‌تر توانستند فرایند تکثیر را از ابتدا تا انتها انجام دهند.
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر با همان نرخ تاریخی بهبود خود ادامه دهند، ممکن است تا پایان سال ۲۰۲۶ قابلیت‌های لازم برای خودتکثیری مستقل را به دست آورند.
یک کرم هوش مصنوعی که روی سخت‌افزار کم‌توان فعالیت می‌کند، ممکن است برای تکمیل بخش‌هایی از فرایند تکثیر به چند روز زمان نیاز داشته باشد. با این حال، اگر دستگاه‌های آلوده بتوانند تعداد کافی از ماشین‌های دیگر را آلوده کنند، چنین شبکه‌ای می‌تواند به گسترش خود ادامه دهد؛ حتی اگر سرعت انتشار آن از برخی بدافزارهای متعارف کمتر باشد.
آنتروپیک همچنین هشدار داد که سیستم‌های آینده ممکن است به دنبال منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، بروند و در نتیجه سرعت گسترش خود را افزایش دهند.
با این حال، آزمایش‌های این شرکت خودتکثیری مستقل از طریق مراکز داده تجاری را نشان ندادند.
این یافته‌ها بر نگرانی‌ها درباره سیستم‌های هوش مصنوعی هرچه توانمندتر و خطر بالقوه آنها برای خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی می‌افزاید.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران و کارکنان شرکت‌های این صنعت درباره احتمال بروز خطرات شدید، هم‌زمان با افزایش توانمندی و استقلال این سیستم‌ها، هشدار دهند.