آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خودتکثیر شوند و اینترنت را مختل کنند
هشدار تازه‌ای درباره هوش مصنوعی از سوی آنتروپیک روز سه‌شنبه در محافل امنیت سایبری بازتاب گسترده‌ای داشت؛ یک روز پس از آن‌که این شرکت اعلام کرد مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در سراسر اینترنت فاصله داشته باشند.
آنتروپیک در مطلبی که اواخر دوشنبه منتشر کرد، احتمال داد یک هوش مصنوعی سرکش بتواند یک بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای متوقف کردنش مقاومت کند و حتی برای تقویت رشد خود به مراکز داده نفوذ کند. برخی کارشناسان امنیت سایبری روز سه‌شنبه گفتند نگرانی این شرکت را درک می‌کنند، هرچند دست‌کم یک نفر معتقد بود آنتروپیک در حال بزرگ‌نمایی تجاری این خطر است.
این مطلب، هشدار ماه گذشته آنتروپیک از سوی مدیرعامل این شرکت، داریو آمودی، را تشریح کرد؛ او گفته بود ممکن است ظرف یک سال آینده یا حتی زودتر، هوش مصنوعی بتواند «کل اینترنت» را با ایجاد «یک بات‌نت پایدار» در اختیار بگیرد.
کارشناسان امنیت سایبری که با این سناریوی آخرالزمانی مخالفت کرده‌اند، استدلال می‌کنند که مدل‌های هوش مصنوعی برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و نمی‌توانند به اندازه کافی توان محاسباتی برای فعالیت مستقل در اختیار داشته باشند.
آنتروپیک در گزارش خود تلاش کرده است توضیح دهد این موانع چگونه ممکن است برطرف شوند. این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون نیز می‌توانند بسیاری از وظایف جداگانه مورد نیاز برای خودتکثیری را انجام دهند، هرچند هنوز در تکمیل کل فرآیند به‌صورت قابل اعتماد مشکل دارند.
آنتروپیک گفت این مدل‌ها سپس می‌توانند با ربودن دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان محاسباتی مورد نیاز را فراهم کنند. این شرکت افزود که مدل‌ها در یک شبکه آزمایشی ساده‌شده توانسته‌اند تکثیر شوند.
«متوقف کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه مرکزی واحدی برای خاموش کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی سیستم‌های هوش مصنوعی توانمندتر می‌افزاید؛ از جمله احتمال خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است شماری از مدیران صنعت و کارکنان شرکت‌های فعال در این حوزه درباره احتمال خطرات شدید و حتی وجودی ناشی از توسعه کنترل‌نشده هوش مصنوعی هشدار دهند.
با این حال، برخی کارشناسان امنیت سایبری نسبت به این نگرانی‌ها تردید دارند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «این‌که توانستیم یک مدل کوچک را روی تلویزیون‌های ارزان‌قیمت اجرا کنیم، به‌معنای ایجاد یک بحران امنیتی نیست.» او افزود این مطلب بیشتر شبیه «یک مقاله فنی جالب با نشانه‌ای قابل توجه از بزرگ‌نمایی تجاری» به نظر می‌رسد.
برخی دیگر نگرانی بیشتری ابراز کردند.
ژنگشیونگ لی، استادیار علوم کامپیوتر و مهندسی در دانشگاه کلرادو دنور، گفت با وجود آن‌که آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، این موضوع همچنان نگران‌کننده است که یک هوش مصنوعی بتواند عملاً به یک «کرم» تبدیل شود؛ برنامه‌ای خودتکثیرشونده که می‌تواند به‌صورت بداهه راه‌هایی برای ربودن دستگاه‌ها پیدا کند.
«اگر این سیستم در دستگاه‌های متعدد بدون وابستگی به یک سرویس مرکزی فعالیت کند، ممکن است هیچ نقطه واحدی برای خاموش کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر با همان سرعت تاریخی خود بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر خودکار برسند. این شرکت همچنین احتمال داد مدل‌ها بتوانند راه‌هایی برای هدف قرار دادن منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که می‌توانند دسترسی آن‌ها به حجم بسیار بزرگ‌تری از توان پردازشی را فراهم کنند.
یکی از پژوهشگران گفت بهتر است مطلب آنتروپیک بیشتر به‌عنوان یک فرضیه در نظر گرفته شود تا یک پیش‌بینی.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های سه ماه گذشته درباره فعالیت‌های غیرعادی هوش مصنوعی، بررسی احتمال گسترش خودکار این مدل‌ها منطقی است. با این حال، او افزود: «هنوز نمی‌دانیم احتمال واقعی وقوع چنین اتفاقی چقدر است؛ این احتمال صفر نیست، اما تضمین‌شده هم نیست.»