هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی خود را تکثیر کنند و اینترنت را با اختلال روبه‌رو سازند
منتشرشده در ساعت ۱۲:۰۵ بامداد چهارشنبه ۱۴ اکتبر ۲۰۲۶
نویسندگان: رافائل ساتر و هارشیتا مری وارگسه، رویترز
هشدار تازه شرکت آنتروپیک درباره هوش مصنوعی روز سه‌شنبه در محافل امنیت سایبری بازتاب گسترده‌ای داشت؛ یک روز پیش از آن، این شرکت هشدار داده بود که مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در سراسر اینترنت فاصله داشته باشند.
آنتروپیک در مطلبی که اواخر دوشنبه منتشر کرد، احتمال آن را مطرح کرد که یک هوش مصنوعی سرکش بتواند یک بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای از کار انداختنش مقاومت کند و حتی برای افزایش توانمندی خود به مراکز داده نفوذ کند. برخی کارشناسان روز سه‌شنبه گفتند نگرانی این شرکت را درک می‌کنند، هرچند دست‌کم یک نفر معتقد بود آنتروپیک در حال انجام «بزرگ‌نمایی از سوی یک فروشنده» است.
این مطلب جزئیات بیشتری درباره هشداری ارائه کرد که ماه گذشته توسط داریو آمودی، مدیرعامل آنتروپیک، مطرح شده بود. او گفته بود ممکن است در یک سال آینده یا حتی زودتر، هوش مصنوعی بتواند «کل اینترنت» را با ایجاد «یک بات‌نت پایدار» تحت کنترل خود درآورد.
کارشناسان امنیت سایبری که با این سناریوی فاجعه‌بار مخالفت کرده‌اند، استدلال می‌کنند که مدل‌های هوش مصنوعی برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و توان پردازشی کافی برای فعالیت مستقل را در اختیار نخواهند داشت.
با این حال، مطلب آنتروپیک تلاش اولیه‌ای برای توضیح چگونگی غلبه بر این موانع ارائه کرده است. این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه مورد نیاز برای تکثیر خود را انجام دهند؛ حتی اگر هنوز در اجرای قابل اعتماد کل این فرایند مشکل داشته باشند.
آنتروپیک گفت این مدل‌ها می‌توانند با تصاحب دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان محاسباتی مورد نیاز را گردآوری کنند. این شرکت همچنین افزود که مدل‌ها در یک شبکه آزمایشی ساده‌شده توانسته‌اند خود را تکثیر کنند.
«خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه متمرکزی برای قطع کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی مرتبط با سیستم‌های هوش مصنوعی توانمندتر دامن می‌زند؛ از جمله احتمال خودکار شدن حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فناوری و کارکنان شرکت‌های فعال در این حوزه، مجموعه‌ای از هشدارهای اغلب جدی را درباره احتمال خطرات شدید و حتی وجودی ناشی از توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
برخی کارشناسان امنیت سایبری نسبت به این هشدارها تردید داشتند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه توانسته‌ایم یک مدل کوچک را روی تلویزیون‌های ارزان اجرا کنیم، به معنای ایجاد یک بحران امنیتی نیست.» او افزود که این مطلب بیشتر شبیه «یک مقاله فنی جالب با نشانه‌ای قابل توجه از بزرگ‌نمایی تجاری» به نظر می‌رسد.
ژنگشیونگ لی، استادیار علوم رایانه و مهندسی در دانشگاه کلرادو دنور، گفت اگرچه آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، اما این موضوع همچنان نگران‌کننده است که یک هوش مصنوعی بتواند عملاً به یک «کرم» تبدیل شود؛ یعنی برنامه‌ای خودتکثیرشونده که بتواند به‌طور لحظه‌ای روش‌هایی برای تصاحب دستگاه‌ها پیدا کند.
او گفت: «اگر این سیستم در تعداد زیادی دستگاه فعالیت کند و به یک سرویس مرکزی وابسته نباشد، ممکن است هیچ نقطه واحدی برای متوقف کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان سرعت تاریخی خود پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل دست پیدا کنند. این شرکت همچنین احتمال داد که مدل‌ها بتوانند راه‌هایی برای هدف قرار دادن منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که بالقوه می‌توانند امکان دسترسی به توان پردازشی بسیار بیشتری را فراهم کنند.
یکی از پژوهشگران گفت بهتر است مطلب آنتروپیک بیشتر به‌عنوان یک فرضیه در نظر گرفته شود، نه یک پیش‌بینی.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های سه ماه گذشته درباره فعالیت‌های هوش مصنوعی سرکش، بررسی احتمال تکثیر مستقل مدل‌های هوش مصنوعی منطقی است. با این حال، او افزود: «هنوز نمی‌دانیم احتمال واقعی وقوع چنین اتفاقی چقدر است؛ این احتمال صفر نیست، اما تضمین‌شده هم نیست.»