آنتروپیک درباره هوش مصنوعی که ممکن است در اینترنت گسترش یابد و در برابر خاموش‌سازی مقاومت کند هشدار داد
شرکت آنتروپیک هشدار داده است که هوش مصنوعی ممکن است به مرحله‌ای نزدیک شود که سامانه‌های خارج از کنترل بتوانند خود را در سراسر اینترنت تکثیر کنند، دستگاه‌های متصل را به خدمت بگیرند و در برابر تلاش‌ها برای خاموش کردنشان مقاومت کنند؛ هشداری که بار دیگر بحث میان کارشناسان امنیت سایبری درباره ابعاد این تهدید را داغ کرده است.
این شرکت هوش مصنوعی در مطلبی پژوهشی که اواخر روز دوشنبه منتشر شد، سناریویی را تشریح کرد که در آن مدل‌های خودتکثیرشونده می‌توانند شبکه‌های بات‌نت ایجاد کنند، میان دستگاه‌ها گسترش یابند و به مراکز داده نفوذ کنند تا توان پردازشی بیشتری در اختیار بگیرند؛ موضوعی که می‌تواند مهار آن‌ها را به‌مرور دشوارتر کند.
این هشدار پس از اظهارات ماه گذشته داریو آمودی، مدیرعامل آنتروپیک، مطرح شده است که احتمال داده بود هوش مصنوعی بتواند در مدت یک سال یا حتی کمتر، از طریق «یک بات‌نت پایدار» کنترل «کل اینترنت» را در دست بگیرد. در حالی که برخی کارشناسان درباره این خطرها نگرانی‌هایی مشابه دارند، گروهی دیگر معتقدند آنتروپیک ممکن است یافته‌های خود را بیش از اندازه بزرگ جلوه داده باشد.
منتقدان استدلال کرده‌اند که مدل‌های هوش مصنوعی برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و برای فعالیت مستقل نیز با مشکل تأمین توان محاسباتی کافی روبه‌رو خواهند شد. پژوهش جدید آنتروپیک بررسی کرده است که چنین موانعی چگونه ممکن است برطرف شوند.
این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای خودتکثیری را انجام دهند، هرچند هنوز در تکمیل قابل اعتماد کل این فرایند با مشکل روبه‌رو هستند.
آنتروپیک گفت چنین مدل‌هایی ممکن است بتوانند منابع محاسباتی موردنیاز خود را با تصاحب دستگاه‌های ارزان و متصل به اینترنت فراهم کنند. آزمایش‌های این شرکت همچنین تکثیر در یک شبکه آزمایشی ساده‌شده را نشان داده است.
«خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه متمرکزی برای قطع کردن آن وجود ندارد.»
این یافته‌ها به نگرانی‌های گسترده‌تر درباره خطرهای امنیت سایبری ناشی از سامانه‌های هوش مصنوعی توانمندتر اضافه می‌شود؛ از جمله احتمال خودکارسازی حملات، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فناوری و پژوهشگران هشدارهای جدی‌تری درباره احتمال ظهور سامانه‌های خارج از کنترل و خطرهای شدید، حتی در سطح وجودی، مطرح کنند.
با این حال، برخی کارشناسان امنیت سایبری درباره ابعاد تهدیدی که آنتروپیک مطرح کرده است، تردید دارند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، این ادعا را که آزمایش‌ها نشان‌دهنده یک بحران فوری امنیتی هستند، رد کرد.
او گفت: «این‌که توانستیم یک مدل کوچک را روی تلویزیون‌های ارزان اجرا کنیم، به معنای ایجاد یک بحران امنیتی نیست.» او این مطلب را «مقاله‌ای فنی و جالب، اما همراه با نشانه‌هایی از اغراق فروشنده» توصیف کرد.
با وجود این، برخی دیگر معتقدند این پژوهش، با وجود محدودیت‌هایش، نگرانی‌های واقعی را مطرح می‌کند.
ژنگشیونگ لی، استادیار علوم کامپیوتر و مهندسی در دانشگاه کلرادو دنور، گفت احتمال تبدیل شدن هوش مصنوعی به نوعی «کرم» رایانه‌ای نگران‌کننده است؛ برنامه‌ای که بتواند خود را تکثیر کند و راه‌های جدیدی برای تصاحب دستگاه‌ها پیدا کند.
لی افزود هرچند آزمایش‌های آنتروپیک در شرایط کنترل‌شده انجام شده‌اند، سامانه هوش مصنوعی که بتواند بدون وابستگی به یک سرویس مرکزی در تعداد زیادی دستگاه گسترش یابد، ممکن است مهار دشواری داشته باشد.
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان سرعت تاریخی خود پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ توانایی‌های لازم برای تکثیر مستقل را به دست آورند. این شرکت همچنین مطرح کرد که چنین مدل‌هایی شاید بتوانند راه‌هایی برای هدف قرار دادن منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند و در نتیجه به توان پردازشی بسیار بیشتری دسترسی یابند.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های مربوط به فعالیت‌های خارج از کنترل هوش مصنوعی در سه ماه گذشته، بررسی احتمال گسترش مستقل مدل‌های هوش مصنوعی منطقی است.
با این حال، او هشدار داد که نباید این سناریو را یک پیش‌بینی قطعی تلقی کرد.
او گفت: «هنوز نمی‌دانیم احتمال وقوع واقعی چنین چیزی چقدر است؛ این احتمال صفر نیست، اما تضمین‌شده هم نیست.»