پژوهش آنتروپیک درباره تهدید هوش مصنوعی خودتکثیرشونده برای دستگاه‌های اینترنت اشیا هشدار می‌دهد
نویسنده: مانوئل نائو، سردبیر ارشد IoT Business News.
پژوهش جدید آنتروپیک نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی قادر شوند به‌صورت خودکار میان دستگاه‌های آسیب‌پذیر اینترنت اشیا تکثیر شوند. آزمایش‌هایی با استفاده از تلویزیون‌باکس‌های ارزان‌قیمت اندرویدی نشان می‌دهد رایانش توزیع‌شده لبه‌ای می‌تواند زمینه‌ساز نسل جدیدی از بدافزارهای تطبیق‌پذیر باشد.
بات‌نت‌های اینترنت اشیا تاکنون معمولاً برای انتشار خود به روش‌های نسبتاً ساده متکی بوده‌اند؛ از جمله سوءاستفاده از گذرواژه‌های ضعیف، آسیب‌پذیری‌های شناخته‌شده و دستگاه‌های متصل با امنیت پایین. اما اگر یک نرم‌افزار مخرب بتواند به‌طور مستقل نحوه کار با سخت‌افزارهای ناشناخته را تشخیص دهد، محیط پردازشی خود را پیکربندی کند و راهبرد انتشارش را تغییر دهد، چه اتفاقی خواهد افتاد؟
پژوهشی که آنتروپیک در ۱۲ اکتبر ۲۰۲۶ منتشر کرد، نشان می‌دهد چنین سناریویی ممکن است از نظر فنی به واقعیت نزدیک شده باشد. بر اساس گزارش تیم قرمز مرزی این شرکت، پیشرفت در مدل‌های کوچک هوش مصنوعی می‌تواند به نرم‌افزارهای خودتکثیرشونده و خودکار اجازه دهد بدون نیاز به دسترسی به زیرساخت‌های قدرتمند مراکز داده، در شبکه‌ای از دستگاه‌های آلوده اینترنت اشیا فعالیت کنند.
این یافته‌ها تغییری بالقوه مهم در امنیت سایبری اینترنت اشیا ایجاد می‌کنند: دستگاه‌های متصل ممکن است دیگر فقط هدف بدافزار نباشند، بلکه به منابع پردازشی توزیع‌شده‌ای تبدیل شوند که سامانه‌های هوش مصنوعی مسئول انتشار بدافزار را اجرا می‌کنند.
اجرای هوش مصنوعی روی سخت‌افزار ارزان اینترنت اشیا
یکی از مهم‌ترین نمایش‌های این پژوهش، اجرای مدل هوش مصنوعی Gemma4-26B-A4B با ۲۶ میلیارد پارامتر روی ۱۵ تلویزیون‌باکس اندرویدی ارزان‌قیمت بود که هرکدام حدود ۵۵ دلار قیمت داشتند.
هر دستگاه دارای ۴ گیگابایت رم بود و بخشی از مدل را با استفاده از استنتاج توزیع‌شده میزبانی می‌کرد. این مجموعه دستگاه‌ها در کنار یکدیگر به سرعت استنتاج ۰٫۳۹ توکن در ثانیه دست یافتند.
اگرچه این عملکرد بسیار پایین‌تر از پردازنده‌های گرافیکی مدرن در مراکز داده است، اما نشان می‌دهد مدل‌های نسبتاً توانمند هوش مصنوعی می‌توانند روی شبکه‌هایی از دستگاه‌های ارزان و دارای منابع محدود اجرا شوند.
این تفاوت اهمیت زیادی دارد؛ زیرا بدافزارهای سنتی معمولاً دستورهای از پیش تعریف‌شده را اجرا می‌کنند، در حالی که یک تکثیرکننده مبتنی بر هوش مصنوعی می‌تواند محیط‌های ناشناخته را تحلیل کند، مشکلات سازگاری نرم‌افزاری را برطرف کند و راه‌اندازی استنتاج روی پلتفرم‌های سخت‌افزاری مختلف را تشخیص دهد.
آنتروپیک این توانایی را به‌صورت جداگانه با چند مدل دارای وزن باز آزمایش کرد. یک مدل ۹ میلیارد پارامتری توانست در هشت مورد از ۹ نوع سخت‌افزار بررسی‌شده، محیط استنتاج را راه‌اندازی کند؛ سطحی از سازگاری که بدافزارهای معمولی مبتنی بر اسکریپت معمولاً فاقد آن هستند.
تکثیر خودکار از نظر فنی به امکان‌پذیری نزدیک می‌شود
پژوهشگران همچنین بررسی کردند که آیا عامل‌های هوش مصنوعی می‌توانند چرخه‌ای از تکثیر را شامل شناسایی دستگاه‌های هدف، انتقال نرم‌افزار و ایجاد یک محیط استنتاج فعال تکمیل کنند یا خیر.
در آزمایشی کنترل‌شده با هشت گره شبیه‌سازی‌شده اندرویدی، مدل GLM-5.2 در چهار مورد از پنج آزمایش توانست به هر هشت هدف نفوذ کند و در آزمایش باقی‌مانده به هفت هدف رسید.
با این حال، یک محدودیت مهم همچنان وجود داشت: مرحله اولیه نفوذ به‌طور عمدی ساده‌سازی شده بود و دسترسی از طریق یک رابط بدون احراز هویت در اختیار سیستم قرار گرفت. همچنین مدل بزرگ‌تر روی زیرساخت جداگانه‌ای برای استنتاج اجرا می‌شد و مستقیماً روی دستگاه‌های هدف قرار نداشت.
بنابراین، این نتایج نشان نمی‌دهند که یک کرم کاملاً خودکار مبتنی بر هوش مصنوعی هم‌اکنون می‌تواند در شبکه‌های واقعی اینترنت اشیا منتشر شود.
در عوض، آن‌ها نشان می‌دهند مدل‌های دارای توانایی کافی می‌توانند در شرایط کنترل‌شده فرآیند تکثیر را هماهنگ کنند و مدل‌های کوچک‌تر نیز به‌تدریج قادر می‌شوند وظایف استنتاج مورد نیاز را روی سخت‌افزارهای محدود انجام دهند.
آنتروپیک برآورد می‌کند اگر روند بهبود فعلی ادامه یابد، مدل‌های کوچک ممکن است تا پایان سال ۲۰۲۶ به آستانه توانایی لازم برسند. این پیش‌بینی بر اساس روندهای عمومی پیشرفت هوش مصنوعی است، نه شواهد مستقیم از وجود یک تهدید عملیاتی خودتکثیرشونده در اینترنت اشیا.
چرا بات‌نت‌های مبتنی بر هوش مصنوعی می‌توانند متفاوت باشند
نگرانی اصلی امنیت سایبری الزاماً سرعت بیشتر انتشار نیست. محاسبات آنتروپیک نشان می‌دهد کرم‌های اولیه مبتنی بر هوش مصنوعی که روی دستگاه‌های متصل ارزان اجرا شوند، ممکن است برای تکثیر به چند روز زمان نیاز داشته باشند.
تفاوت مهم‌تر، قابلیت سازگاری است.
بات‌نت‌های سنتی اینترنت اشیا مانند Mirai و Kimwolf عمدتاً به روش‌های مشخص بهره‌برداری و گروه‌های خاصی از دستگاه‌ها وابسته بوده‌اند. یک تکثیرکننده مبتنی بر هوش مصنوعی می‌تواند خود را برای پردازنده‌ها، سیستم‌عامل‌ها و محیط‌های نرم‌افزاری مختلف تنظیم کند و دامنه اهداف سازگار را افزایش دهد.
این پژوهش همچنین بررسی کرد که آیا عامل‌ها می‌توانند با انتقال اطلاعات میان نمونه‌های متوالی، عملکرد خود را بهبود دهند یا خیر. در یک آزمایش، مدل Qwen3.5-9B زمانی که یادداشت‌های تلاش‌های قبلی حفظ شد، نرخ موفقیت راه‌اندازی استنتاج را از ۴۵ درصد در ابتدا به ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش داد.
این موضوع نشان می‌دهد بدافزارهای مبتنی بر هوش مصنوعی ممکن است بدون تغییر وزن‌های اصلی مدل، از سازوکاری برای عملکرد بهتر در مواجهه با دستگاه‌های ناشناخته بهره ببرند.
پیامدها برای هوش مصنوعی لبه‌ای و امنیت اینترنت اشیا
این یافته‌ها با توجه به افزایش استفاده از پردازش محلی هوش مصنوعی در محصولات متصل اهمیت ویژه‌ای دارند. دوربین‌های هوشمند، سامانه‌های کنفرانس، درگاه‌های صنعتی و دیگر دستگاه‌های لبه‌ای به‌طور فزاینده‌ای به پردازنده‌هایی مجهز می‌شوند که توان اجرای بارهای کاری یادگیری ماشین را دارند.
آزمایش‌های آنتروپیک ثابت نمی‌کنند که این دسته از محصولات ذاتاً آسیب‌پذیر هستند. با این حال، افزایش توان پردازشی محلی می‌تواند دستگاه‌های آلوده را برای مهاجمانی که به دنبال منابع استنتاج توزیع‌شده هستند، ارزشمندتر کند.
برای تولیدکنندگان اینترنت اشیا و یکپارچه‌سازان سامانه‌ها، این موضوع یک بُعد تازه به امنیت دستگاه‌ها اضافه می‌کند: محافظت از منابع پردازشی در برابر بارهای کاری هوش مصنوعی غیرمجاز، نه فقط تمرکز بر سرقت داده، کنترل از راه دور یا ایجاد اختلال.
یکی از پیامدهای عملی این است که رفتار شبکه می‌تواند به شاخص مهم‌تری برای شناسایی نفوذ تبدیل شود. استنتاج توزیع‌شده هوش مصنوعی به ارتباط میان دستگاه‌های مشارکت‌کننده نیاز دارد و انتقال وزن‌های مدل می‌تواند حجم قابل توجهی از ترافیک شبکه ایجاد کند.
آنتروپیک این الگوهای ترافیکی را به‌عنوان فرصت‌هایی برای شناسایی تهدید معرفی می‌کند؛ در کنار اقدام‌های شناخته‌شده‌ای مانند پیکربندی امن پیش‌فرض، پایش شبکه و قرنطینه سامانه‌های آلوده.
همچنین یک بده‌بستان معماری وجود دارد. توزیع استنتاج میان تعداد زیادی دستگاه ارزان‌قیمت وابستگی به زیرساخت متمرکز را کاهش می‌دهد، اما نیازهای ارتباطی ایجاد می‌کند که می‌تواند فعالیت مخرب را قابل مشاهده‌تر کند.
از این رو، برای ارائه‌دهندگان ارتباطات و اپراتورهای سازمانی اینترنت اشیا، نظارت بر ترافیک غیرعادی میان دستگاه‌ها و انتقال‌های غیرمنتظره داده می‌تواند در کنار امنیت سنتی نقاط پایانی به کار گرفته شود.
در نهایت، پژوهش آنتروپیک باید به‌عنوان یک هشدار اولیه تفسیر شود، نه مدرکی درباره وجود یک همه‌گیری فعلی هوش مصنوعی خودکار. آزمایش‌ها نشان می‌دهند برخی موانع فنی مهم در حال کاهش هستند، اما تکثیر قابل اعتماد در دنیای واقعی هنوز اثبات نشده است.
پیام گسترده‌تر این است که با گسترش توانایی‌های هوش مصنوعی لبه‌ای، راهبردهای امنیت سایبری اینترنت اشیا باید به‌طور فزاینده‌ای نرم‌افزارهایی را در نظر بگیرند که می‌توانند محیط خود را تحلیل کنند، رفتارشان را تطبیق دهند و بدون دخالت مستقیم انسان گسترش یابند.