آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خود را تکثیر کنند و اینترنت را مختل کنند
نویسندگان: رافائل ساتر و هارشیتا مری وارگسه
۱۳ اکتبر (رویترز) - هشدار تازه شرکت آنتروپیک درباره هوش مصنوعی روز سه‌شنبه در محافل امنیت سایبری واکنش‌های زیادی برانگیخت؛ یک روز پس از آنکه این شرکت اعلام کرد مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در سراسر اینترنت فاصله داشته باشند.
آنتروپیک در مطلبی که اواخر دوشنبه منتشر کرد، این احتمال را مطرح کرد که یک هوش مصنوعی سرکش بتواند یک بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای از کار انداختنش مقاومت کند و حتی برای افزایش توان پردازشی خود به مراکز داده نفوذ کند. برخی کارشناسان روز سه‌شنبه گفتند نگرانی این شرکت را درک می‌کنند، هرچند دست‌کم یک نفر معتقد بود آنتروپیک در این زمینه دچار «اغراق تبلیغاتی از سوی فروشنده» شده است.
این مطلب، هشدار ماه گذشته داریو آمودی، مدیرعامل آنتروپیک، را بسط داد؛ او گفته بود ممکن است در سال آینده یا حتی زودتر، هوش مصنوعی بتواند «کل اینترنت» را با یک «بات‌نت پایدار» در اختیار بگیرد.
کارشناسان امنیت سایبری که با این سناریوی آخرالزمانی مخالفت کرده‌اند، استدلال کردند که مدل‌های هوش مصنوعی برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و نمی‌توانند به اندازه کافی توان محاسباتی برای فعالیت مستقل در اختیار داشته باشند.
آنتروپیک در گزارش خود تلاش کرده بود توضیح دهد این موانع چگونه ممکن است برطرف شوند. این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای خودتکثیری را انجام دهند، حتی اگر هنوز در تکمیل کل فرایند به‌صورت قابل اعتماد مشکل داشته باشند.
آنتروپیک گفت این مدل‌ها سپس می‌توانند با ربودن دستگاه‌های ارزان و متصل به اینترنت، توان پردازشی موردنیاز خود را فراهم کنند. این شرکت افزود که مدل‌ها در یک شبکه آزمایشی ساده‌شده توانسته‌اند خود را تکثیر کنند.
این شرکت گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه متمرکزی برای قطع فعالیت آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی سیستم‌های هوش مصنوعی قدرتمندتر می‌افزاید؛ از جمله احتمال خودکار شدن حملات سایبری، فعالیت با نظارت انسانی محدود و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران صنعت و کارکنان شرکت‌های فعال در این حوزه مجموعه‌ای از هشدارهای نگران‌کننده درباره احتمال خطرات شدید و حتی وجودی ناشی از توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
با این حال، برخی کارشناسان امنیت سایبری نسبت به این نگرانی‌ها تردید داشتند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه توانستیم یک مدل کوچک را روی تلویزیون‌های ارزان اجرا کنیم، به‌خودی‌خود بحران امنیتی ایجاد نمی‌کند.» او افزود که این مطلب بیشتر شبیه «یک مقاله فنی جالب با نشانه‌ای قابل توجه از اغراق تبلیغاتی شرکت» به نظر می‌رسد.
برخی دیگر نگرانی بیشتری ابراز کردند.
ژنگشیونگ لی، استادیار علوم رایانه و مهندسی در دانشگاه کلرادو دنور، گفت اگرچه آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، اما همچنان نگران‌کننده است که یک هوش مصنوعی بتواند عملاً به یک «کرم» تبدیل شود؛ یعنی برنامه‌ای خودتکثیرشونده که بتواند به‌صورت بداهه راه‌هایی برای ربودن دستگاه‌ها پیدا کند.
او گفت: «اگر این سیستم در تعداد زیادی دستگاه فعالیت کند و به یک سرویس مرکزی وابسته نباشد، ممکن است هیچ نقطه واحدی برای متوقف کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان سرعت تاریخی خود پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل برسند. این شرکت همچنین مطرح کرد که این مدل‌ها شاید راه‌هایی برای هدف قرار دادن منابع پردازشی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که می‌توانند امکان دسترسی آنها به ظرفیت‌های محاسباتی بسیار بزرگ‌تر را فراهم کنند.
یکی از پژوهشگران گفت منطقی‌تر است مطلب آنتروپیک را یک فرضیه احتمالی بدانیم، نه یک پیش‌بینی قطعی.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های سه ماه گذشته درباره فعالیت‌های هوش مصنوعی سرکش، بررسی احتمال گسترش مستقل مدل‌های هوش مصنوعی منطقی است. با این حال، او افزود: «هنوز نمی‌دانیم احتمال واقعی وقوع چنین چیزی چقدر است؛ این احتمال صفر نیست، اما تضمین‌شده هم نیست.»
گزارش از رافائل ساتر در واشنگتن و هارشیتا مری وارگسه در بنگلور؛ گزارش تکمیلی از گارگی گوپتا در بنگلور؛ ویرایش: جانین ونکاترامان، شینجینی گانگولی و دیوید گرگوریو.