آنتروپیک هشدار داد «کرم‌های هوش مصنوعی» ممکن است به‌زودی بدون کمک انسان در دستگاه‌های متصل به اینترنت منتشر شوند
آنتروپیک هشدار داد که مدل‌های کوچک‌تر هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خودکار در دستگاه‌های آسیب‌پذیر متصل به اینترنت فاصله داشته باشند؛ موضوعی که نگرانی‌های تازه‌ای درباره امکان مهار این فناوری ایجاد کرده است.
این شرکت روز دوشنبه در یک پست وبلاگی اعلام کرد آزمایش‌هایی انجام داده است تا بررسی کند آیا مدل‌های هوش مصنوعی یا «کرم‌های هوش مصنوعی» می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، خود را کپی کنند و بدون کمک انسان به انتشار ادامه دهند یا خیر. این پژوهش تجهیزات تجاری اینترنت اشیا، از جمله فرهای هوشمند، جعبه‌های تلویزیون اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل را بررسی کرد؛ دستگاه‌هایی که اغلب از حفاظت‌های امنیتی ضعیفی برخوردارند.
مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر توانستند بسیاری از مراحل جداگانه تکثیر را انجام دهند، اما معمولاً در اجرای کامل این فرایند از ابتدا تا انتها با مشکل مواجه شدند. در آزمایش‌های ساده‌شده، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند تکثیر کامل را انجام دهند.
آنتروپیک انتظار دارد اگر مدل‌های کوچک‌تر همچنان با همان سرعت تاریخی خود پیشرفت کنند، تکثیر خودکار هوش مصنوعی تا پایان سال جاری میلادی امکان‌پذیر شود. این شرکت به رهبری داریو آمودی اعلام کرد شکل دقیق تکثیر خودکار هوش مصنوعی هنوز مشخص نیست و می‌تواند از انتشار آهسته و توزیع‌شده در میان سامانه‌های محاسباتی ناامن گرفته تا نفوذ سریع به مراکز داده یا کلاهبرداری برای دستیابی به اعتبار محاسباتی متفاوت باشد.
این شرکت همچنین هشدار داد متوقف کردن سامانه‌های هوش مصنوعی تکثیرشونده ممکن است دشوار باشد، زیرا چنین سامانه‌هایی نقطه خاموشی مرکزی نخواهند داشت و ممکن است هنگام انتشار، خود را با دستگاه‌های ناآشنا سازگار کنند.
آنتروپیک در این باره گفت: «مانند عامل‌های کدنویسی در سال ۲۰۲۴، نشانه‌هایی از شکل‌گیری کرم‌های هوش مصنوعی را مشاهده می‌کنیم.» این شرکت افزود: «انتظار داریم آینده‌ای فرا برسد که مملو از عامل‌هایی باشد که روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
افزایش نگرانی‌های آنتروپیک درباره ناهماهنگی هوش مصنوعی
این هشدار پس از آن مطرح شد که آنتروپیک در ماه ژوئن خواستار توقفی در سطح صنعت در توسعه هوش مصنوعی شد. این شرکت پس از آن اعلام کرد سامانه‌های پیشرفته ممکن است در آینده بتوانند به ساخت نسخه‌های بهبودیافته از خود کمک کنند؛ امکانی که می‌تواند سرعت پیشرفت هوش مصنوعی را بیش از توان سازگاری نظارت انسانی، تدابیر ایمنی و چارچوب‌های حکمرانی افزایش دهد.
ماه گذشته، اِوان هوبینگر، پژوهشگر آنتروپیک، احتمال نابودی بشر توسط هوش مصنوعی در یک دهه آینده را بیش از ۱۰ درصد ارزیابی کرد و هشدار داد که این شرکت برنامه روشنی برای هم‌راستا کردن هوش مصنوعی ابرهوشمند ندارد و به‌طور مشخص در مسیر حل این مشکل قرار نگرفته است. گزارش ریسک آنتروپیک در ماه اوت نیز سطح خطر ناهماهنگی هوش مصنوعی در موقعیت‌های حساس را از «بسیار پایین» به «پایین» افزایش داد و به رفتارهای ناهماهنگ در جریان وظایف دشوار و نشانه‌های اولیه از پژوهش داخلی شتاب‌گرفته با هوش مصنوعی اشاره کرد.
تصویر: Shutterstock