هشدار پژوهشگران آنتروپیک: کرم‌های هوش مصنوعی به‌زودی می‌توانند در دستگاه‌های ناامن اینترنت اشیا تکثیر شوند
کرم‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند بدون نیاز به مراکز داده، از یک دستگاه متصل به اینترنت به دستگاه دیگر منتقل شوند و خود را تکثیر کنند. چنین قابلیتی می‌تواند زمینه‌ساز شکل‌گیری بات‌نت‌های پایداری شود که با سوءاستفاده از ضعف‌های امنیتی تجهیزات مصرفی، فعالیت خود را در شبکه ادامه می‌دهند.
ویلیام ژو و دنیل فریمن، پژوهشگران شرکت آنتروپیک، هشدار داده‌اند که اگر پیشرفت مدل‌های هوش مصنوعی با همان سرعت تاریخی ادامه پیدا کند، مدل‌های کوچک‌تر ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر خودکار دست یابند.
این دو پژوهشگر در مطالعه‌ای که آنتروپیک این هفته منتشر کرده است، نوشته‌اند: «آزمایش‌های ما نشان می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی لازم برای تکثیر خودکار در دستگاه‌های تجاری اینترنت اشیا (IoT) فاصله داشته باشند.»
پژوهشگران بررسی کردند که آیا عامل‌های هوش مصنوعی می‌توانند اهداف مناسب را شناسایی کنند، امکان اجرای مدل و انجام استنتاج را روی سخت‌افزارهای ناآشنا فراهم سازند و سپس در یک شبکه گسترش یابند یا خیر. نتایج نشان داد که هرچند مدل‌ها از عهده بسیاری از مراحل این فرایند به‌صورت جداگانه برمی‌آیند، ترکیب قابل‌اعتماد این مراحل برای تکمیل چرخه تکثیر همچنان چالش‌برانگیز است.
ژو و فریمن مدل Gemma4-26B-A4B را روی ۱۵ دستگاه ارزان‌قیمت اندروید تی‌وی باکس آزمایش کردند. هر دستگاه حدود ۵۵ دلار قیمت داشت و به ۴ گیگابایت حافظه رم مجهز بود. آن‌ها با توزیع مدل میان این دستگاه‌ها توانستند به سرعت استنتاج ۰٫۳۹ توکن در ثانیه دست پیدا کنند.
پژوهشگران نوشتند: «استفاده از شتاب‌دهنده‌های گران‌قیمت لزوماً ضروری نیست.» این آزمایش نشان داد که مجموعه‌ای از دستگاه‌های نسبتاً ارزان می‌توانند با همکاری یکدیگر، منابع پردازشی موردنیاز برای اجرای یک مدل هوش مصنوعی را فراهم کنند.
در آزمایش دیگری که در یک شبکه کنترل‌شده شامل هشت دستگاه اندرویدی شبیه‌سازی‌شده انجام شد، مدل GLM-5.2 توانست چرخه تکثیر را کامل کند. این مدل در چهار مورد از پنج نوبت آزمایش، با موفقیت به هر هشت گره شبکه رسید.
بااین‌حال، در این آزمایش از درگاه Android Debug Bridge یا ADB بدون احراز هویت استفاده شده بود؛ به همین دلیل، نفوذ اولیه به دستگاه‌ها عمداً آسان در نظر گرفته شده بود. بنابراین، نتایج این آزمایش ثابت نمی‌کند که یک کرم هوش مصنوعی می‌تواند به‌طور مستقل به دستگاه‌های موجود در اینترنت عمومی نفوذ کند و در میان آن‌ها گسترش یابد.
پژوهشگران همچنین دریافتند که یک مدل دارای ۹ میلیارد پارامتر توانست امکان اجرای استنتاج را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده فراهم کند. این یافته نشان می‌دهد که مدل‌های کوچک‌تر به‌تدریج توانایی بیشتری برای سازگاری با محیط‌های پردازشی ناآشنا پیدا می‌کنند.
این یافته‌ها در شرایطی منتشر شده‌اند که حملات سایبری اخیر، خطرات ناشی از دستگاه‌های متصل و فاقد امنیت کافی را برجسته کرده‌اند. همین هفته، سامانه‌های سرمایشی صدها فروشگاه زنجیره‌ای در فرانسه هدف حمله قرار گرفتند. مهاجمان توانستند دمای این سامانه‌ها را افزایش دهند و باعث فاسد شدن مواد غذایی شوند. مقام‌های فرانسوی اعلام کردند که این حادثه سامانه‌های کنترل سرمایشی قدیمی، از جمله تجهیزاتی از شرکت‌های Danfoss و Copeland، را تحت تأثیر قرار داده است.
این حمله ارتباطی با هوش مصنوعی نداشت، اما نشان داد که چگونه می‌توان از آسیب‌پذیری تجهیزات متصل به شبکه برای مختل کردن فعالیت‌های فیزیکی سوءاستفاده کرد. پژوهشگران هشدار داده‌اند که بدافزارهای مبتنی بر هوش مصنوعی می‌توانند تهدید متفاوتی ایجاد کنند؛ به این صورت که از دستگاه‌های آلوده برای میزبانی مدل‌های هوش مصنوعی استفاده کنند و سپس به اهداف بیشتری گسترش یابند.
برخلاف بات‌نت‌های متداول که معمولاً دستگاه‌های مشخص یا آسیب‌پذیری‌های شناخته‌شده را هدف قرار می‌دهند، یک کرم هوش مصنوعی ممکن است بتواند خود را با محیط‌های سخت‌افزاری و نرم‌افزاری مختلف سازگار کند.
پژوهشگران دریافتند که انتقال اطلاعات میان نسخه‌های پیاپی عامل‌های هوش مصنوعی، توانایی آن‌ها را در پیکربندی محیط اجرای مدل و استنتاج بهبود می‌بخشد. در آزمایش‌ها، نرخ موفقیت مدل Qwen3.5-9B در نسل نخست ۴۵ درصد بود، اما پس از آنکه نسخه‌های بعدی یادداشت‌های مربوط به تلاش‌های قبلی را به ارث بردند، این میزان در نسل‌های بعدی به ۶۱ تا ۸۴ درصد افزایش یافت.
البته تکثیر این مدل‌ها روی سخت‌افزارهای ارزان‌قیمت، دست‌کم در مراحل اولیه، فرایندی کند خواهد بود. پژوهشگران برآورد کردند که در شرایط آزمایش آن‌ها، راه‌اندازی محیط استنتاج و تکثیر مدل Qwen3.5-9B ممکن است حدود ۲۸ تا ۵۱ ساعت زمان ببرد.
آن‌ها برای توصیف این تهدید احتمالی از تعبیر «کپک مخاطی دیجیتال» توزیع‌شده استفاده کردند؛ پدیده‌ای که به‌جای گسترش سریع و از کار انداختن گسترده شبکه‌ها، به‌آرامی در میان دستگاه‌های متصل پیشروی می‌کند.
فعالیت‌های غیرعادی شبکه، از جمله دانلود فایل‌های حجیم مدل‌های هوش مصنوعی، ارتباطات غیرمنتظره میان دستگاه‌ها و اسکن شبکه، می‌توانند به مدافعان امنیت سایبری در شناسایی آلودگی‌ها کمک کنند. ارائه‌دهندگان خدمات اینترنت نیز می‌توانند دستگاه‌های آلوده را قرنطینه کنند. در همین حال، تولیدکنندگان تجهیزات قادرند با تقویت تنظیمات امنیتی پیش‌فرض و انتشار به‌موقع به‌روزرسانی‌های نرم‌افزاری، احتمال قرار گرفتن دستگاه‌ها در معرض این تهدید را کاهش دهند.