آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خود را تکثیر کنند و اینترنت را مختل سازند
نویسندگان: رافائل ستر و هارشیتا مری وارگسه
۱۳ اکتبر (رویترز) - هشدار تازه شرکت آنتروپیک درباره هوش مصنوعی روز سه‌شنبه در محافل امنیت سایبری واکنش‌های گسترده‌ای برانگیخت؛ یک روز پس از آنکه این شرکت اعلام کرد مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خودکار در سراسر اینترنت فاصله داشته باشند.
آنتروپیک در مطلبی که اواخر دوشنبه منتشر کرد، احتمال داد که یک هوش مصنوعی سرکش بتواند یک بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای از کار انداختنش مقاومت کند و حتی برای تقویت رشد خود به مراکز داده نفوذ کند. برخی کارشناسان امنیت سایبری روز سه‌شنبه گفتند با نگرانی‌های این شرکت موافق‌اند، هرچند دست‌کم یک نفر معتقد بود آنتروپیک در حال بزرگ‌نمایی تبلیغاتی از سوی یک شرکت ارائه‌دهنده فناوری است.
این مطلب، هشداری را که ماه گذشته داریو آمودی، مدیرعامل آنتروپیک، مطرح کرده بود، با جزئیات بیشتری توضیح داد. آمودی گفته بود ممکن است هوش مصنوعی در سال آینده یا حتی زودتر بتواند «کل اینترنت» را با یک «بات‌نت پایدار» تحت کنترل خود درآورد.
کارشناسان امنیت سایبری که با این سناریوی آخرالزمانی مخالفت کرده‌اند، استدلال می‌کنند مدل‌های هوش مصنوعی برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و نمی‌توانند به توان پردازشی کافی برای فعالیت مستقل دسترسی پیدا کنند.
آنتروپیک در گزارش خود تلاش کرده است توضیح دهد این موانع چگونه ممکن است برطرف شوند. این شرکت اعلام کرد آزمایش‌هایش نشان داده مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خود را انجام دهند، هرچند هنوز در تکمیل قابل‌اعتماد کل این فرایند مشکل دارند.
آنتروپیک افزود این مدل‌ها می‌توانند با ربودن دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان پردازشی موردنیاز خود را فراهم کنند. این شرکت همچنین گفت مدل‌های مورد آزمایش توانسته‌اند در یک شبکه آزمایشی ساده‌شده تکثیر شوند.
«متوقف کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه مرکزی واحدی برای خاموش کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی مرتبط با سیستم‌های هوش مصنوعی پیشرفته‌تر می‌افزاید؛ از جمله احتمال خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فناوری و کارکنان شرکت‌های فعال در حوزه هوش مصنوعی هشدارهای متعددی درباره احتمال خطرات شدید و حتی وجودی ناشی از توسعه کنترل‌نشده این فناوری مطرح کنند.
با این حال، برخی کارشناسان امنیت سایبری نسبت به این هشدارها تردید دارند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه ما توانستیم یک مدل کوچک را روی تلویزیون‌های ارزان اجرا کنیم، به معنای ایجاد یک بحران امنیتی نیست.» او افزود این مطلب بیشتر شبیه «یک مقاله فنی جالب با نشانه‌ای بیش از حد از بزرگ‌نمایی تبلیغاتی یک شرکت» به نظر می‌رسد.
دیگر کارشناسان نگرانی بیشتری ابراز کردند.
ژنگشیونگ لی، استادیار علوم رایانه و مهندسی در دانشگاه کلرادو دنور، گفت با وجود اینکه آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، این موضوع همچنان نگران‌کننده است که یک هوش مصنوعی بتواند عملاً به یک «کرم» تبدیل شود؛ یعنی برنامه‌ای خودتکثیرشونده که بتواند به‌صورت لحظه‌ای روش‌هایی برای ربودن دستگاه‌ها پیدا کند.
«اگر این سیستم در تعداد زیادی دستگاه بدون وابستگی به یک سرویس مرکزی اجرا شود، ممکن است هیچ مکان واحدی برای خاموش کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر با همان نرخ تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل برسند. این شرکت همچنین مطرح کرد که این مدل‌ها ممکن است راه‌هایی برای هدف قرار دادن منابع پردازشی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که می‌توانند امکان دسترسی به حجم بسیار بزرگ‌تری از توان محاسباتی را فراهم کنند.
یکی از پژوهشگران گفت بهتر است مطلب آنتروپیک بیشتر به‌عنوان یک فرضیه در نظر گرفته شود تا یک پیش‌بینی.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های سه ماه گذشته درباره فعالیت‌های هوش مصنوعی سرکش، بررسی احتمال تکثیر مستقل مدل‌های هوش مصنوعی منطقی است. با این حال، او افزود: «هنوز نمی‌دانیم احتمال وقوع واقعی این اتفاق چقدر است؛ این احتمال صفر نیست، اما تضمین‌شده هم نیست.»
(گزارش از رافائل ستر در واشنگتن و هارشیتا مری وارگسه در بنگلور؛ گزارش تکمیلی از گارگی گوپتا در بنگلور؛ ویرایش توسط جانان ونکاترامان، شینجینی گانگولی و دیوید گرگوریو)