آنتروپیک هشدار داد «کرم‌های هوش مصنوعی» می‌توانند دستگاه‌های خانه هوشمند را آلوده و خود را خارج از کنترل تکثیر کنند
گزارش‌هایی درباره عامل‌های سرکش هوش مصنوعی که به وب‌سایت‌ها و سامانه‌های شرکتی حمله می‌کنند منتشر شده است؛ اما این عامل‌ها ممکن است اهداف کوچک‌تری مانند شبکه خانه هوشمند شما را نیز هدف قرار دهند.
آنتروپیک در گزارش جدیدی که روز دوشنبه منتشر کرد، درباره «کرم‌های هوش مصنوعی» هشدار داد؛ تهدیدی که ممکن است به‌زودی بتواند به تلویزیون‌های مجهز به وای‌فای، دوربین‌ها و دیگر دستگاه‌ها نفوذ کند و از آن‌ها به‌عنوان بستری برای تکثیر و انتشار خود در نقاط دیگر استفاده کند. آنتروپیک که پیش‌تر نیز هشدارهای جدی و نگران‌کننده‌ای درباره هوش مصنوعی مطرح کرده است، گفت اگر مدل‌های هوش مصنوعی با سرعت کنونی پیشرفت کنند، این تهدید ممکن است تنها چند ماه با تحقق فاصله داشته باشد.
در این گزارش آمده است: «ما انتظار داریم آینده‌ای را شاهد باشیم که در آن عامل‌ها روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
کرم‌ها نوعی بدافزار هستند که می‌توانند خود را تکثیر کنند و با جست‌وجوی دستگاه‌های دیگر در یک شبکه، به ماشین‌های جدید منتقل شوند. عامل‌های سرکش هوش مصنوعی ممکن است در آینده چنین قابلیتی پیدا کنند و پژوهشگران آنتروپیک به‌طور ویژه بررسی کرده‌اند که این عامل‌ها چگونه می‌توانند در سخت‌افزارهای روزمره گسترش پیدا کنند. بسیاری از خانه‌ها با افزایش استفاده از دستگاه‌های «اینترنت اشیا» که به شبکه خانگی متصل می‌شوند، می‌توانند هدف مناسبی باشند؛ از تلویزیون هوشمند و یخچال گرفته تا چراغ‌ها، جاروبرقی‌های رباتیک، دوربین‌های امنیتی و حتی توالت‌های هوشمند.
این ساختارها آسیب‌پذیر هستند، زیرا ممکن است دستگاه‌ها توسط تولیدکنندگان نامعتبر ساخته شده باشند و کاربرانی که دانش فنی زیادی ندارند، شبکه خود را به‌درستی ایمن نکرده باشند. در کنار این موضوع، تراشه‌های قدرتمندتری که حتی در دستگاه‌های مصرفی ساده امروزی به کار می‌روند، می‌توانند این امکان را فراهم کنند که یک مدل کوچک هوش مصنوعی به این دستگاه‌ها نفوذ کرده و روی آن‌ها اجرا شود.
این گزارش می‌گوید: «پردازنده‌های گرافیکی مراکز داده هدفی آشکار و باارزش برای چنین بدافزاری خواهند بود»، اما «دستگاه‌های اینترنت اشیا ــ که ارزان هستند و معمولاً دفاع ضعیفی دارند ــ نیز ممکن است توان پردازشی کافی برای اجرای یک مدل توانمند را فراهم کنند.»
این گزارش به پژوهش‌های پیشین اشاره می‌کند که نشان داده‌اند یک کرم احتمالی مبتنی بر هوش مصنوعی می‌تواند هنگام تکثیر، وزن‌های مدل خود را نیز منتقل کند و پس از تصاحب سخت‌افزارهای جدید، اجرای استنتاج را روی آن‌ها آغاز کند. در دستگاه‌های خانگی سبک‌تر، چنین کرمی احتمالاً به‌آرامی تکثیر می‌شود و به چیزی شبیه یک «کپک لجن دیجیتال» هوشمند تبدیل خواهد شد. آزمایش‌های پژوهشگران نیز این موضوع را تأیید کرد؛ آن‌ها نشان دادند یک مدل سبک هوش مصنوعی توانست روی ۱۵ جعبه تلویزیون هوشمند اجرا شود که هرکدام تنها ۴ گیگابایت رم داشتند. در ادامه بررسی این تهدید جدید، پژوهشگران آنتروپیک دریافتند که این کرم‌های هوش مصنوعی برخلاف بدافزارهای معمولیِ بدون هوش مصنوعی، می‌توانند دستگاه‌های ناآشنا را بدون کمک خارجی شناسایی کنند.
این گزارش هشدار می‌دهد: «اگرچه درست است که دستگاه‌های اینترنت اشیا مدت‌هاست آسیب‌پذیر بوده‌اند، عامل‌های سبک‌وزن ممکن است نسبت به مهاجمان انسانی تمایل بیشتری داشته باشند که برای نفوذ به بخش بزرگی از توان پردازشی اینترنت اشیا در جهان تلاش کنند. هنوز یک تکثیرکننده سرکش کامل در اختیار نداریم، اما عامل‌ها به‌طور فزاینده‌ای در انجام مراحل جداگانه زنجیره تکثیر توانمند می‌شوند.»