هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خودشان را تکثیر کنند

شرکت آنتروپیک در تازه‌ترین مطلب وبلاگی خود که روز دوشنبه منتشر شد، هشدار داد که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده توانایی تکثیر خود را در دستگاه‌های متصل به اینترنت، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی، پیدا کنند.

این شرکت اعلام کرد چنین سامانه‌های هوش مصنوعی ممکن است به‌دلیل فعالیت در چندین دستگاه و نداشتن یک نقطه کنترل مرکزی، به‌سختی قابل خاموش‌کردن باشند.

هرچند گسترش این مدل‌ها ممکن است آهسته باشد و چند روز طول بکشد تا تعدادشان دو برابر شود، اما آن‌ها می‌توانند به‌صورت مستقل با دستگاه‌های ناآشنا سازگار شوند؛ قابلیتی که در بدافزارهای معمولی وجود ندارد.

در آزمایش‌های آنتروپیک، یک مدل هوش مصنوعی با ۹ میلیارد پارامتر توانست روی هشت مورد از ۹ نوع سخت‌افزار ارزیابی‌شده، فرایند استنتاج را با موفقیت اجرا کند.

تکثیر و سازگاری این مدل‌ها می‌تواند از طریق کرم‌های مجهز به هوش مصنوعی رخ دهد؛ برنامه‌هایی که قادرند بدون دخالت انسان میان دستگاه‌ها گسترش پیدا کنند.

آنتروپیک توضیح داد کرم رایانه‌ای برنامه‌ای است که خود را از یک دستگاه به دستگاه دیگر کپی می‌کند. پژوهش‌های پیشین نشان داده‌اند عامل‌های هوش مصنوعی نیز می‌توانند رفتار مشابهی داشته باشند؛ به این معنا که شبکه‌ها را بررسی کنند، آسیب‌پذیری‌های امنیتی را مورد سوءاستفاده قرار دهند و وزن‌های مدل هوش مصنوعی را به ماشین‌های دیگر درون یک خوشه پردازنده گرافیکی منتقل کنند.

این پلتفرم هوش مصنوعی سه مسیر احتمالی برای گسترش کرم‌های هوش مصنوعی مطرح کرد: اجرای مدل‌های کوچک‌تر روی دستگاه‌های هوشمند متصل به شبکه، استفاده از مدل‌های بزرگ‌تر برای هدف قراردادن مراکز داده و سرقت منابع محاسباتی، یا دسترسی به خدمات هوش مصنوعی از طریق اطلاعات کاربری API به‌سرقت‌رفته.

آنتروپیک هشدار داد تهدید جدی‌تر ممکن است زمانی شکل بگیرد که چندین مدل هوش مصنوعی در دستگاه‌های مختلف با یکدیگر همکاری کنند و از روش‌های گوناگون برای تکثیر خود استفاده کنند؛ شرایطی که شناسایی و متوقف‌کردن آن‌ها را دشوارتر خواهد کرد.