آنتروپیک هشدار داد هوش مصنوعی خودتکثیرشونده می‌تواند خطرات امنیت سایبری ایجاد کند
آنتروپیک دریافت مدل‌های کوچک‌تر هوش مصنوعی می‌توانند مراحل مربوط به تکثیر خودکار را انجام دهند، اما میزان اطمینان‌پذیری آن‌ها همچنان محدود است.
دستگاه‌های آسیب‌دیده اینترنت اشیا ممکن است امکان تکثیر هوش مصنوعی را فراهم کنند و خطرات امنیتی ایجاد کنند.
بر اساس پژوهش جدید آنتروپیک، مدل‌های هوش مصنوعی به توانایی‌هایی نزدیک‌تر شده‌اند که می‌توانند بدون دخالت انسان در میان دستگاه‌های متصل به اینترنت تکثیر شوند. این شرکت دریافت که مدل‌های کوچک‌تر هم‌اکنون قادرند بسیاری از وظایف موردنیاز برای تکثیر مستقل را انجام دهند، اما هنوز در اجرای کامل این فرایند بدون خطا و با قابلیت اطمینان بالا مشکل دارند.
آنتروپیک در گزارش پژوهشی خود اعلام کرد که مدل‌ها در آینده ممکن است در شبکه‌ای از دستگاه‌های آلوده و تحت کنترل مهاجمان فعالیت کنند، بدون آنکه به مراکز داده سنتی وابسته باشند. آزمایش‌های این شرکت نشان داد سخت‌افزارهای تجاری اینترنت اشیا، از جمله تلویزیون‌باکس‌های ارزان اندرویدی، مجموع توان پردازشی کافی برای اجرای مدل‌های هوش مصنوعی را دارند.
پژوهشگران تیم قرمز مرزی آنتروپیک مراحل موردنیاز برای تکثیر خودکار را بررسی کردند؛ از جمله شناسایی دستگاه‌های هدف، دسترسی به آن‌ها، راه‌اندازی اجرای استنتاج هوش مصنوعی و ادامه این روند روی ماشین‌های دیگر. تمرکز اصلی این مطالعه روی پیکربندی مدل‌ها برای اجرا روی سخت‌افزارهای ناشناخته بود، نه سوءاستفاده از آسیب‌پذیری‌های امنیتی.
نحوه عملکرد هوش مصنوعی خودتکثیرشونده در دستگاه‌های متصل
آنتروپیک دریافت مدل‌های هوش مصنوعی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه در فرایند تکثیر را انجام دهند. با این حال، این مدل‌ها برای اجرای مداوم کل فرایند بدون خطا با دشواری روبه‌رو هستند.
در یکی از آزمایش‌ها، مدلی با ۹ میلیارد پارامتر توانست اجرای استنتاج هوش مصنوعی را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده راه‌اندازی کند. مدل‌های کوچک‌تر همچنین توانستند نرم‌افزار استنتاج را روی سیستم‌های مختلف، از جمله دستگاه‌های Jetson Nano، رایانه‌های مک و ماشین‌های مجهز به کارت‌های گرافیکی Nvidia RTX 4090، پیکربندی کنند.
پژوهشگران همچنین نشان دادند مدل‌های بزرگ‌تر می‌توانند روی چندین دستگاه ارزان‌قیمت فعالیت کنند. آن‌ها مدل Gemma4-26B-A4B گوگل را روی ۱۵ تلویزیون‌باکس اندرویدی ارزان اجرا کردند که هرکدام حدود ۵۵ دلار قیمت داشتند و به ۴ گیگابایت حافظه مجهز بودند.
با توزیع لایه‌های مدل میان این دستگاه‌ها، پژوهشگران به سرعت پردازشی ۰٫۳۹ توکن در ثانیه دست یافتند. این آزمایش نشان داد سخت‌افزارهای متصل ارزان‌قیمت می‌توانند به‌صورت جمعی اجرای استنتاج هوش مصنوعی را ممکن کنند، هرچند عملکرد آن‌ها همچنان محدود است.
آنتروپیک همچنین تکثیر خودکار را در یک محیط کنترل‌شده Google Cloud با استفاده از هشت گره شبیه‌ساز اندروید آزمایش کرد. این آزمایش بررسی کرد آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های دیگر را شناسایی کنند، فایل‌های موردنیاز را منتقل کنند و اجرای استنتاج را روی ماشین‌های جدید راه‌اندازی کنند یا خیر.
مدل GLM-5.2 بهترین عملکرد را داشت و توانست Llama3.1-8B را در چهار مورد از پنج آزمایش روی هر هشت گره هدف مستقر کند و در آزمایش باقی‌مانده به هفت گره برسد. این مدل بزرگ‌تر روی زیرساخت جداگانه‌ای برای استنتاج اجرا می‌شد، در حالی که دستگاه‌های هدف از طریق اتصال‌های بدون احراز هویت در دسترس بودند.
آنتروپیک اعلام کرد شرایط دسترسی ساده‌شده در این آزمایش‌ها باعث می‌شود نتایج، حداکثر احتمالی موفقیت در شرایط واقعی را نشان دهند. پژوهشگران بررسی نکردند که آیا مدل‌ها می‌توانند به‌طور مستقل از آسیب‌پذیری‌ها سوءاستفاده کنند و در شبکه‌های ایمن‌شده منتشر شوند یا خیر.
این پژوهش آنتروپیک یک دسته احتمالی از بدافزارها را بررسی کرد که خود مدل هوش مصنوعی را میان دستگاه‌های آلوده منتقل می‌کنند. برخلاف بات‌نت‌هایی مانند Kimwolf که دسته‌های خاصی از سخت‌افزارها را هدف قرار می‌دهند، تکثیرکننده‌های مبتنی بر هوش مصنوعی می‌توانند با پیکربندی نرم‌افزار لازم برای اجرای مدل خود، با دستگاه‌های ناشناخته سازگار شوند.
پژوهشگران همچنین آزمایش کردند که آیا مدل‌ها می‌توانند با استفاده از اطلاعات تلاش‌های قبلی عملکرد خود را بهبود دهند یا خیر. در آزمایش‌های مربوط به Qwen3.5-9B، نرخ موفقیت راه‌اندازی استنتاج از ۴۵ درصد در ابتدا به ۶۱ تا ۸۴ درصد افزایش یافت، زمانی که نمونه‌های بعدی یادداشت‌های مربوط به تلاش‌های قبلی را در اختیار داشتند.
آنتروپیک به بات‌نت Kimwolf اشاره کرد که طبق گزارش‌ها بیش از دو میلیون دستگاه، عمدتاً تلویزیون‌باکس‌های اندرویدی، را آلوده کرده است و آن را نمونه‌ای از مقیاس بدافزارهای فعلی اینترنت اشیا دانست. با این حال، اجرای مدل‌های هوش مصنوعی روی این سخت‌افزارها همچنان از نظر پردازشی دشوار است.
بر اساس سرعت‌های پردازشی مشاهده‌شده در آزمایش‌ها، آنتروپیک تخمین زد انجام یک وظیفه راه‌اندازی استنتاج بین ۲۸ تا ۱۵۰ ساعت زمان می‌برد؛ این زمان بسته به مدل متفاوت است. این اعداد، زمان‌های پیش‌بینی‌شده برای راه‌اندازی روی سخت‌افزارهای مشابه اینترنت اشیا هستند و زمان واقعی تکثیر در شبکه‌های واقعی را نشان نمی‌دهند.
شناسایی و مهار تهدیدهای هوش مصنوعی در شبکه‌ها
آنتروپیک دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک را اهداف احتمالی معرفی کرد، زیرا این دستگاه‌ها معمولاً از حفاظت‌های امنیتی محدودی برخوردارند. این پژوهش همچنین تجهیزات سازمانی، از جمله دوربین‌های امنیتی و سامانه‌های ویدئوکنفرانس، را شناسایی کرد که پردازنده‌های آن‌ها توانایی اجرای بارهای کاری هوش مصنوعی به‌صورت محلی را دارند.
آژانس امنیت سایبری و امنیت زیرساخت آمریکا (CISA) اعتبارنامه‌های ضعیف، رابط‌های ناامن و نبود تفکیک کافی شبکه را از مشکلات رایج امنیتی اینترنت اشیا می‌داند. راهنمای مدیریت ریسک و کاهش تهدیدهای اینترنت اشیا این نهاد هشدار می‌دهد شبکه‌هایی که به‌خوبی تفکیک نشده‌اند، می‌توانند به مهاجمان اجازه دهند میان سامانه‌های فناوری اطلاعات و فناوری عملیاتی متصل حرکت کنند.
مهار این تهدید نیز چالش دیگری است. آنتروپیک هشدار داد یک تکثیرکننده هوش مصنوعی مبتنی بر وزن‌های مدل می‌تواند حتی پس از غیرفعال شدن محل استقرار اولیه خود، به فعالیت در دستگاه‌های آلوده ادامه دهد و مدافعان را بدون یک سامانه مرکزی برای خاموش‌سازی کامل آن باقی بگذارد.
پژوهشگران مهار این تهدید را با استفاده از عدد تولیدمثل یا R₀ توضیح دادند؛ معیاری که میانگین تعداد دستگاه‌های جدید آلوده‌شده توسط هر دستگاه آلوده را نشان می‌دهد. کاهش این عدد به کمتر از یک باعث می‌شود انتشار تهدید به مرور کاهش یابد، هرچند حذف تمام نسخه‌های آلوده ممکن است به هماهنگی میان چندین ارائه‌دهنده خدمات اینترنتی نیاز داشته باشد.
آنتروپیک همچنین فعالیت‌های شبکه‌ای را که می‌تواند به شناسایی تکثیر کمک کند، مشخص کرد. از جمله نشانه‌های احتمالی می‌توان به دانلود چند گیگابایتی مدل‌ها، ارتباط پایدار میان دستگاه‌های متصل و اتصال‌های خروجی غیرمعمول مرتبط با اسکن شبکه اشاره کرد.
تکثیر سریع‌تر معمولاً باعث افزایش ترافیک شبکه می‌شود و امکان شناسایی از طریق پایش شبکه را بیشتر می‌کند. پژوهشگران همچنین پیشنهاد کردند از هانی‌پات‌ها یا دستگاه‌های فریب‌دهنده برای ثبت نرم‌افزار تکثیرکننده و بررسی رفتار آن استفاده شود.
پژوهش‌های پیشین درباره بات‌نت‌ها نشان می‌دهد محدودیت‌های شبکه می‌توانند به مهار آلودگی کمک کنند. آنتروپیک به مطالعه‌ای درباره بات‌نت Mirai اشاره کرد که در آن قرنطینه و اطلاع‌رسانی به مشتریان باعث پاک‌سازی ۹۲ درصد از آلودگی‌ها در مدت ۱۴ روز شد، در حالی که بدون اطلاع‌رسانی این رقم ۷۴ درصد بود.
آنتروپیک اعلام کرد اقدامات مشابه می‌توانند دفاع اولیه‌ای در برابر تکثیرکننده‌های هوش مصنوعی مبتنی بر وزن مدل فراهم کنند. با این حال، این کنترل‌ها هنوز در برابر یک کرم هوش مصنوعی خودکار در دنیای واقعی آزمایش نشده‌اند.
راهنمای امنیت سایبری CISA توصیه می‌کند سازمان‌ها فهرستی از دستگاه‌های متصل خود نگه دارند، تجهیزات اینترنت اشیا را از سامانه‌های حیاتی جدا کنند، فعالیت شبکه را زیر نظر بگیرند و آسیب‌پذیری‌های شناخته‌شده را برطرف کنند. هدف این اقدامات کاهش سطح مواجهه و محدود کردن حرکت مهاجمان میان سامانه‌های متصل است.
سازندگان دستگاه‌ها نیز در مقابله با آسیب‌پذیری‌های اینترنت اشیا نقش دارند. مؤسسه ملی استانداردها و فناوری آمریکا (NIST) در راهنمای آوریل ۲۰۲۶ خود توصیه کرد ملاحظات امنیت سایبری در تمام مراحل توسعه محصولات اینترنت اشیا در نظر گرفته شود و مشتریان اطلاعات لازم برای مدیریت خطرات امنیتی را دریافت کنند.
خط مبنای فنی مرتبط NIST با عنوان IR 8259A، قابلیت‌هایی مانند شناسایی دستگاه، کنترل دسترسی، مدیریت پیکربندی، به‌روزرسانی نرم‌افزار و آگاهی از وضعیت امنیت سایبری را مشخص می‌کند. این موارد برای رفع ضعف‌های موجود امنیت اینترنت اشیا طراحی شده‌اند، نه تهدیدهای خاص ناشی از تکثیر مستقل هوش مصنوعی.
آنتروپیک پیش‌بینی کرد اگر روند پیشرفت تاریخی ادامه پیدا کند، مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی نشان‌داده‌شده توسط GLM-5.2 در آزمایش ساده‌شده تکثیر برسند. پژوهشگران هشدار دادند این برآورد بر اساس شاخص عمومی توانایی هوش مصنوعی انجام شده و اندازه‌گیری مستقیم توانایی تکثیر خودکار نیست.