آنتروپیک هشدار داد: مدل‌های هوش مصنوعی خارج از کنترل ممکن است در تلویزیون‌ها و فرهای هوشمند تکثیر شوند
هشدار تازه شرکت آنتروپیک درباره خطرات هوش مصنوعی، روز سه‌شنبه بحث‌های گسترده‌ای را در میان متخصصان امنیت سایبری برانگیخت. این هشدار یک روز پس از آن مطرح شد که شرکت اعلام کرد مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر خودکار در سراسر اینترنت فاصله داشته باشند.
آنتروپیک اواخر روز دوشنبه در مطلبی هشدار داد که هوش مصنوعی خارج از کنترل ممکن است بتواند یک شبکه بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای متوقف کردن فعالیتش مقاومت کند و حتی برای افزایش چشمگیر توان پردازشی خود به مراکز داده نفوذ کند. شماری از کارشناسان روز سه‌شنبه اعلام کردند که در نگرانی‌های این شرکت سهیم هستند، هرچند دست‌کم یکی از آن‌ها معتقد بود آنتروپیک در توصیف این خطرات به بزرگ‌نمایی تبلیغاتی روی آورده است.
مطلب منتشرشده در روز دوشنبه جزئیات بیشتری درباره هشداری ارائه می‌کرد که داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته مطرح کرده بود. آمودی احتمال داده بود که هوش مصنوعی ظرف یک سال آینده یا حتی زودتر بتواند با ایجاد یک «بات‌نت پایدار»، کنترل «تمام اینترنت» را به دست بگیرد.
کارشناسان امنیت سایبری که با این سناریوی فاجعه‌بار مخالفت کرده بودند، استدلال می‌کردند که مدل‌های هوش مصنوعی بیش از اندازه بزرگ هستند و انتقال آن‌ها میان دستگاه‌های مختلف به‌سادگی و با کارایی کافی امکان‌پذیر نیست. به گفته آن‌ها، این مدل‌ها همچنین نمی‌توانند به توان پردازشی لازم برای فعالیت مستقل دسترسی پیدا کنند.
آنتروپیک در مطلب تازه خود تلاش کرده است توضیح دهد که چگونه می‌توان بر این موانع غلبه کرد. این شرکت اعلام کرد آزمایش‌هایش نشان می‌دهد مدل‌های هوش مصنوعی با اندازه متوسط و حداکثر ۳۰ میلیارد پارامتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خودکار را انجام دهند؛ هرچند هنوز در اجرای مطمئن و کامل این فرایند با مشکل روبه‌رو هستند.
به گفته آنتروپیک، این مدل‌ها می‌توانند با نفوذ به دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان پردازشی موردنیاز خود را از منابع مختلف گردآوری کنند. این شرکت همچنین اعلام کرد که مدل‌ها در آزمایش‌های انجام‌شده توانسته‌اند نسخه‌هایی از خود را در یک شبکه آزمایشی ساده‌شده تکثیر کنند.
آنتروپیک اعلام کرد: «متوقف کردن چنین سامانه‌ای که قادر به تکثیر خود است، دشوار خواهد بود؛ زیرا هیچ نقطه مرکزی مشخصی وجود ندارد که بتوان با خاموش کردن آن، فعالیت کل سامانه را متوقف کرد.»
این گزارش بر نگرانی‌های گسترده‌تر درباره خطرات امنیتی سامانه‌های هوش مصنوعی که روزبه‌روز توانمندتر می‌شوند، می‌افزاید. از جمله این خطرات می‌توان به امکان خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن تدابیر حفاظتی اشاره کرد.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فعال در این صنعت و کارکنان شرکت‌های هوش مصنوعی بارها درباره خطرات احتمالی توسعه مهارنشده این فناوری هشدار دهند. این هشدارها اغلب لحنی نگران‌کننده دارند و از احتمال بروز پیامدهایی بسیار شدید، حتی تهدیدهایی علیه موجودیت بشر، سخن می‌گویند.
بااین‌حال، برخی کارشناسان امنیت سایبری نسبت به این هشدارها تردید دارند.
کیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه بگوییم توانسته‌ایم یک مدل کوچک را روی تلویزیون‌های ارزان‌قیمت اجرا کنیم، به‌خودی‌خود به معنای وقوع یک بحران امنیتی نیست.» او معتقد است مطلب آنتروپیک بیشتر شبیه «یک مقاله فنی جالب است که نشانه‌های کاملاً محسوسی از بزرگ‌نمایی تبلیغاتی شرکت ارائه‌دهنده فناوری در آن دیده می‌شود».
در مقابل، گروهی دیگر از کارشناسان نگرانی بیشتری ابراز کردند.
ژنگ‌شیونگ لی، استادیار علوم و مهندسی کامپیوتر در دانشگاه کلرادو دنور، گفت با وجود اینکه آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، این احتمال همچنان نگران‌کننده است که یک هوش مصنوعی عملاً به یک «کرم رایانه‌ای» تبدیل شود؛ یعنی برنامه‌ای که می‌تواند از خودش نسخه‌های جدید بسازد و هنگام فعالیت، به‌طور مستقل روش‌هایی برای نفوذ به دستگاه‌های مختلف پیدا کند.
او گفت: «اگر چنین برنامه‌ای بدون وابستگی به یک سرویس مرکزی روی دستگاه‌های متعددی اجرا شود، ممکن است هیچ نقطه واحدی برای متوقف کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان سرعتی که در گذشته پیشرفت کرده‌اند بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل و خودکار دست پیدا کنند. این شرکت همچنین احتمال داد که مدل‌ها بتوانند راه‌هایی برای دسترسی به منابع پردازشی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند. چنین دسترسی‌ای ممکن است به آن‌ها امکان دهد از ظرفیت‌های پردازشی بسیار گسترده‌تری استفاده کنند.
یکی از پژوهشگران معتقد است بهتر است مطلب آنتروپیک را بیشتر به‌عنوان بررسی یک سناریوی فرضی در نظر گرفت تا پیش‌بینی رویدادی که قرار است اتفاق بیفتد.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به اطلاعاتی که طی سه ماه گذشته درباره فعالیت‌های خارج از کنترل هوش مصنوعی آشکار شده است، بررسی احتمال گسترش مستقل مدل‌های هوش مصنوعی منطقی به نظر می‌رسد. بااین‌حال، او تأکید کرد: «ما هنوز نمی‌دانیم احتمال وقوع چنین اتفاقی در واقعیت چقدر است؛ این احتمال صفر نیست، اما وقوع آن هم قطعی نیست.»