هشدار سازنده کلود: مدل‌های هوش مصنوعی ممکن است تا پایان ۲۰۲۶ توانایی تکثیر خودکار پیدا کنند
آخرین هشدار آنتروپیک درباره هوش مصنوعی روز سه‌شنبه نگرانی‌هایی را در میان محافل امنیت سایبری برانگیخت. این هشدار که شرکت روز دوشنبه منتشر کرد، نشان می‌دهد مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر خود در سراسر اینترنت فاصله داشته باشند.
هشدار آنتروپیک درباره خطر تکثیر خودکار هوش مصنوعی
آنتروپیک در مطلبی که اواخر روز دوشنبه منتشر کرد، هشدار داد که سامانه‌های سرکش هوش مصنوعی ممکن است بتوانند یک بات‌نت ایجاد کنند، به‌سرعت گسترش یابند، در برابر تلاش‌ها برای خاموش‌کردن خود مقاومت کنند و حتی به مراکز داده نفوذ کنند تا روند توسعه خود را سرعت بخشند.
این هشدار تازه در ادامه اظهارات ماه گذشته داریو آمودی، مدیرعامل آنتروپیک، مطرح شده است. او گفته بود هوش مصنوعی ممکن است طی یک سال آینده، یا حتی زودتر، از طریق «یک بات‌نت پایدار» بتواند کنترل «تمام اینترنت» را به دست بگیرد.
چگونگی گسترش آنلاین هوش مصنوعی سرکش
آنتروپیک در مطلب اخیر خود همچنین توضیح اولیه‌ای درباره راه‌های مقابله با چنین خطرهایی ارائه کرد. این شرکت اعلام کرد آزمایش‌هایش نشان داده مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خود را انجام دهند؛ هرچند این مدل‌ها هنوز در تکمیل کل فرایند به‌صورت مداوم و قابل اعتماد با مشکل روبه‌رو هستند.
به گفته آنتروپیک، این مدل‌ها ممکن است بتوانند با در اختیار گرفتن دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان پردازشی موردنیاز خود را فراهم کنند.
این شرکت همچنین گزارش داد مدل‌هایش توانسته‌اند در یک شبکه آزمایشی ساده‌شده با موفقیت تکثیر شوند. آنتروپیک گفت: «خاموش‌کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه متمرکزی برای قطع آن وجود ندارد.»
واکنش کارشناسان به هشدار آنتروپیک
پیشرفت‌های اخیر در مدل‌های هوش مصنوعی باعث شده هشدارهای جدی‌تری از سوی رهبران صنعت و کارکنان شرکت‌های فعال در حوزه هوش مصنوعی درباره خطرهای توسعه کنترل‌نشده این فناوری، از جمله تهدیدهای وجودی، مطرح شود.
در حالی که برخی کارشناسان امنیت سایبری احتمال وقوع چنین سناریوهایی را زیر سؤال برده‌اند، برخی دیگر نسبت به خطرهای احتمالی آن ابراز نگرانی بیشتری کرده‌اند.
ژنگشیونگ لی، استادیار علوم رایانه و مهندسی در دانشگاه کلرادو دنور، گفت: «اگر این سیستم در دستگاه‌های متعدد اجرا شود و به یک سرویس مرکزی وابسته نباشد، ممکن است هیچ مکان واحدی برای خاموش‌کردن آن وجود نداشته باشد.»
افزایش نگرانی‌ها درباره تهدیدهای امنیت سایبری هوش مصنوعی
آنتروپیک هشدار داده است که مدل‌های کوچک‌تر هوش مصنوعی، اگر با همان سرعت تاریخی خود به پیشرفت ادامه دهند، ممکن است تا پایان سال ۲۰۲۶ توانایی تکثیر خودکار پیدا کنند.
این شرکت همچنین اعلام کرده است که چنین سیستم‌هایی ممکن است تلاش کنند به زیرساخت‌های پردازشی قدرتمندتر، از جمله پردازنده‌های مراکز داده، دسترسی پیدا کنند و در نتیجه به منابع محاسباتی بسیار بیشتری دست یابند.
این یافته‌ها نگرانی‌های فزاینده درباره تهدیدهای امنیتی ناشی از سیستم‌های پیشرفته‌تر هوش مصنوعی را برجسته می‌کند؛ به‌ویژه توانایی این سیستم‌ها برای انجام حملات سایبری به‌صورت خودکار، فعالیت با حداقل نظارت انسانی و دور زدن تدابیر ایمنی موجود.
با استفاده از گزارش رویترز.