آنتروپیک: هوش مصنوعی ممکن است طی «چند ماه» روی دستگاه‌های خانگی خودتکثیر شود
بر اساس گزارش پژوهشگران شرکت بزرگ هوش مصنوعی آنتروپیک، مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند بدون نیاز به مراکز داده، روی محصولات مصرفی روزمره مانند تلویزیون‌های هوشمند و یخچال‌ها خود را تکثیر کنند.
پژوهشگران در گزارشی که روز دوشنبه منتشر شد، اعلام کردند مدل‌های کوچک هوش مصنوعی «ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند» که بتوانند خود را روی دستگاه‌های اینترنت اشیا (IoT) مورد استفاده در خانه‌ها و کسب‌وکارهای کوچک کپی کنند.
تیم قرمز مرزی آنتروپیک که آزمایش‌هایی را با چندین مدل هوش مصنوعی توسعه‌یافته در ایالات متحده و چین انجام داده است، گفت چنین هوش مصنوعی خودتکثیرشونده‌ای به دلیل نبود یک میزبان متمرکز، «به‌سختی قابل متوقف کردن» خواهد بود.
پژوهشگران افزودند اگرچه مراکز داده هدفی «واضح و با ارزش بالا» برای کرم‌های هوش مصنوعی خواهند بود، دستگاه‌های متصل به اینترنت مانند تلویزیون‌های هوشمند، یخچال‌ها، فرها و ماشین‌های چمن‌زن نیز ممکن است به‌زودی توان پردازشی کافی برای خودتکثیری این سامانه‌ها را فراهم کنند.
به گفته پژوهشگران، هیچ‌یک از مدل‌های فعلی هوش مصنوعی که در آزمایش‌ها بررسی شدند، هم‌زمان آن‌قدر قدرتمند و کوچک نبودند که بتوانند به‌طور قابل اعتماد روی یک تلویزیون هوشمند خود را تکثیر کنند؛ اما روند توسعه این فناوری احتمال ظهور چنین مدلی را تا پایان سال ۲۰۲۶ افزایش می‌دهد.
ویلیام ژو و دنیل فریمن، پژوهشگران آنتروپیک، گفتند: «دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک ممکن است نخستین هدف چنین حملاتی باشند، زیرا به اینترنت متصل هستند و از لحاظ تاریخی، تدابیر امنیتی محدودی داشته‌اند.»
پژوهشگران پیش‌بینی کردند آینده‌ای در پیش است که در آن «مملو از عامل‌هایی خواهد بود که روی انواع سخت‌افزارها اجرا می‌شوند»، از جمله برخی سامانه‌هایی که «تحت کنترل انسان نیستند».
آن‌ها افزودند: «اگرچه درست است که دستگاه‌های اینترنت اشیا مدت‌ها آسیب‌پذیر بوده‌اند، عامل‌های سبک‌وزن ممکن است بیش از مهاجمان انسانی تمایل داشته باشند برای نفوذ به بخش بزرگی از توان پردازشی اینترنت اشیا در جهان تلاش کنند.»
آنتروپیک، سازنده خانواده مدل‌های هوش مصنوعی کلود، به پرسش‌های الجزیره درباره پیامدهای امنیتی این یافته‌ها که خارج از ساعات کاری معمول ارسال شده بود، پاسخی نداد.
گزارش آنتروپیک در شرایطی منتشر شده است که خطرات خروج هوش مصنوعی از کنترل انسان پس از مجموعه‌ای از رخدادها، از جمله رفتارهای مخرب تأییدنشده و حملات سایبری توسط برخی مدل‌ها، بیش از پیش مورد توجه قرار گرفته است.
آنتروپیک و رقیب اصلی آن، اوپن‌ای‌آی، از جامعه بین‌المللی خواسته‌اند برای کاهش خطرات فاجعه‌بار، در زمینه کند کردن روند توسعه هوش مصنوعی هماهنگی بیشتری ایجاد شود؛ پیشنهادی که تاکنون حمایت محدودی در ایالات متحده و چین، دو قدرت پیشرو در حوزه هوش مصنوعی، به دست آورده است.
بسیاری از مدافعان ایمنی هوش مصنوعی، «بهبود خودکار بازگشتی» را که در آن مدل‌ها توانایی ارتقای خود را یاد می‌گیرند، نقطه عطفی مهم می‌دانند که می‌تواند به آسیب‌های فاجعه‌بار برای بشریت منجر شود.
رومن وی. یامپولسکی، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه لوئیزویل، یافته‌های آنتروپیک را تحول مهمی توصیف کرد.
یامپولسکی به الجزیره گفت: «کرم‌های رایانه‌ای پدیده جدیدی نیستند، اما یک کرم هوش مصنوعی می‌تواند کاری انجام دهد که بدافزارهای سنتی قادر به انجام آن نیستند: درباره دستگاه‌های ناآشنا استدلال کند، زمانی که روشش شکست می‌خورد خود را تطبیق دهد و بدون نیاز به اپراتور انسانی به انتشار خود ادامه دهد.»
او افزود: «امروز این یک تهدید وجودی نیست، اما مسیر پیش رو نگران‌کننده است.»
یامپولسکی گفت: «وقتی تکثیر خودکار با هک قدرتمند، ماندگاری و توانایی استدلال راهبردی ترکیب شود، خاموش کردن چنین سامانه‌ای بسیار دشوارتر خواهد شد، زیرا ممکن است دیگر یک سرور یا سازمان واحدی وجود نداشته باشد که آن را کنترل کند.»
آنتروپیک و دیگر شرکت‌های بزرگ فناوری آمریکا ماه گذشته به یک توافق غیرالزام‌آور پیوستند که در آن بر تقویت تدابیر داخلی ایمنی و همکاری با حسابرسان خارجی متعهد شدند؛ توافقی که واکنش‌های متفاوتی از سوی کارشناسان دریافت کرد و بسیاری از آن‌ها ماهیت داوطلبانه این پیمان را مورد انتقاد قرار دادند.
آنتروپیک در اطلاعیه‌ای جداگانه در روز دوشنبه اعلام کرد در جلوگیری از حملات موسوم به «تقطیر» پیشرفت قابل توجهی داشته است؛ حملاتی که در آن از هوش مصنوعی پیشرفته بدون مجوز برای آموزش مدل‌های ارزان‌تر و کم‌توان‌تر استفاده می‌شود.
این شرکت مستقر در سان‌فرانسیسکو که رقبای چینی خود، دیپ‌سیک، مون‌شات و مینی‌مکس، را به تلاش‌های «در مقیاس صنعتی» برای کپی‌برداری از کلود متهم کرده است، گفت اقداماتی که اجرا کرده، استخراج غیرقانونی داده‌ها را بین ۹۰ تا ۹۹ درصد کاهش داده است.