پژوهش Anthropic بررسی می‌کند بدافزارهای هوش مصنوعی چگونه می‌توانند از طریق دستگاه‌های روزمره گسترش یابند
نکات مهم
تیم قرمز مرزی Anthropic یک مدل Gemma از Google DeepMind را میان ۱۵ جعبه تلویزیونی متصل به شبکه توزیع کرد؛ هر یک از این دستگاه‌ها به‌تنهایی توان اجرای مدل را نداشتند.
در آزمایشی جداگانه در یک محیط ایزوله، بررسی شد که آیا یک مدل هوش مصنوعی بزرگ‌تر می‌تواند به استقرار یک مدل کوچک‌تر از خانواده Llama شرکت Meta روی سامانه‌های هدف کمک کند.
پژوهشگران یک کرم هوش مصنوعی کاملاً خودمختار را که بتواند به‌طور مستقل میان دستگاه‌های کم‌توان گسترش یابد و اجرا شود، نشان ندادند.
این یافته‌ها نشان می‌دهند که تجهیزات الکترونیکی مصرفیِ آلوده‌شده در آینده می‌توانند بالقوه بخشی از یک شبکه محاسباتی توزیع‌شده باشند.
کارشناسان امنیتی هشدار می‌دهند که تکنیک‌های زیربنایی این آزمایش‌ها بر مفاهیم شناخته‌شده امنیت سایبری استوارند، هرچند هوش مصنوعی می‌تواند امکانات تازه‌ای برای سازگاری و خودکارسازی ایجاد کند.
بررسی Anthropic درباره بدافزارهای هوش مصنوعی در دستگاه‌های مصرفی
Anthropic در حال بررسی این موضوع است که هوش مصنوعی چگونه می‌تواند شیوه انتشار نرم‌افزارهای مخرب در دستگاه‌های متصل، از جمله جعبه‌های تلویزیونی ارزان‌قیمت و دیگر تجهیزات الکترونیکی مصرفی، را تغییر دهد.
تیم قرمز مرزی این شرکت در پژوهشی که ۱۲ اکتبر ۲۰۲۶ منتشر شد، بررسی کرد که آیا می‌توان مدل‌های هوش مصنوعی را میان چند رایانه ضعیف توزیع کرد و سامانه‌های هوش مصنوعی چگونه می‌توانند به انتقال نرم‌افزار میان دستگاه‌ها کمک کنند. این یافته‌ها هم‌زمان با افزایش قابلیت‌های محاسباتی تلویزیون‌ها، لوازم خانگی و دیگر محصولات روزمره، پرسش‌هایی درباره امنیت تجهیزات الکترونیکی متصل ایجاد می‌کنند.
این پژوهش نشان نمی‌دهد که لوازم خانگی اکنون میزبان سامانه‌های خودمختار و سرکش هوش مصنوعی هستند. در عوض، دو قابلیت مرتبط بررسی شده است: توزیع یک مدل میان چند دستگاه کم‌توان و استفاده از یک مدل هوش مصنوعی برای کمک به استقرار مدل دیگری روی سامانه‌های هدف در یک محیط کنترل‌شده.
این دو آزمایش در کنار یکدیگر، سناریوی احتمالی یک حمله در آینده را ترسیم می‌کنند که در آن دستگاه‌های آلوده بخشی از منابع محاسباتی مورد نیاز یک سامانه توزیع‌شده را تأمین می‌کنند. اگر چنین شبکه‌ای بتواند میان دستگاه‌ها گسترش یابد و بدون زیرساخت مرکزی فعالیت کند، بالقوه می‌تواند از کار انداختنش دشوارتر از برنامه‌ای باشد که روی یک سرور واحد اجرا می‌شود.
با این حال، پژوهشگران این سناریوی کامل را نشان ندادند. آزمایش‌ها شواهدی از قابلیت‌های فنی مجزا ارائه می‌کنند، نه اثبات وجود یک کرم هوش مصنوعی کاملاً خودتکثیرشونده که بتواند به‌طور مستقل در میان تجهیزات الکترونیکی مصرفی فعالیت کند.
۱۵ جعبه تلویزیونی برای اجرای یک مدل هوش مصنوعی با هم ترکیب شدند
یکی از آزمایش‌های تیم قرمز مرزی Anthropic با استفاده از ۱۵ جعبه تلویزیونی ارزان‌قیمت انجام شد که پژوهشگران آن‌ها را خریداری و به یکدیگر متصل کردند.
هر دستگاه به‌تنهایی توان محاسباتی کافی برای اجرای کل مدل هوش مصنوعی را نداشت. تیم پژوهشی برای رفع این محدودیت، مدل را میان دستگاه‌ها توزیع کرد تا هر جعبه تنها بخشی از بار پردازشی را بر عهده بگیرد.
پژوهشگران از مدلی از خانواده متن‌باز Gemma متعلق به Google DeepMind استفاده کردند. مدل‌های زبانی بزرگ از لایه‌هایی تشکیل شده‌اند که اطلاعات را به‌صورت مرحله‌ای پردازش می‌کنند و همین ساختار امکان تقسیم محاسبات میان چند سامانه را فراهم می‌کند. در این آزمایش، هر جعبه تلویزیونی لایه‌های مشخصی را پردازش می‌کرد و نتیجه را به دستگاه بعدی می‌فرستاد.
با زنجیره‌کردن این جعبه‌ها، پژوهشگران توانستند مدل کامل را اجرا کنند و با استفاده از منابع محاسباتی ترکیبی شبکه، پاسخ دریافت کنند.
این آزمایش نشان می‌دهد که یک دستگاه لزوماً برای مشارکت در اجرای یک مدل هوش مصنوعی به پردازنده قدرتمند نیاز ندارد. چند سامانه محدود می‌توانند در مجموع کاری را انجام دهند که از توان هر یک از آن‌ها به‌تنهایی خارج است.
این قابلیت کاربردهای مشروعی در محاسبات توزیع‌شده دارد، اما پرسش‌های امنیتی نیز ایجاد می‌کند. اگر مهاجمی کنترل چند دستگاه آسیب‌پذیر را به دست آورد، منابع ترکیبی آن‌ها بالقوه می‌تواند برای فعالیت‌های محاسباتی غیرمجاز مورد استفاده قرار گیرد.
این پژوهش ثابت نمی‌کند که ۱۵ جعبه تلویزیونی مورد حمله بدافزار قرار گرفته بودند. این دستگاه‌ها عمداً توسط تیم پژوهش خریداری و به یکدیگر متصل شدند تا اجرای توزیع‌شده مدل آزمایش شود.
آزمایشی جداگانه، انتشار با کمک هوش مصنوعی را بررسی می‌کند
Anthropic همچنین در یک محیط آزمایشگاهی مجازی بررسی کرد که مدل‌های هوش مصنوعی چگونه می‌توانند به انتقال نرم‌افزار میان سامانه‌ها کمک کنند.
در این آزمایش، یک مدل بزرگ‌تر که توسط استارتاپ چینی هوش مصنوعی Z.ai توسعه یافته است، به اجرای یک مدل کوچک‌تر از خانواده Llama شرکت Meta روی سامانه‌های هدف کمک کرد. این آزمایش بررسی می‌کرد که آیا یک سامانه هوش مصنوعی می‌تواند در مراحل لازم برای استقرار مدل دیگری در سراسر یک شبکه نقش داشته باشد.
این آزمایش یک محدودیت مهم داشت: مدل بزرگ‌تر برای اجرای مستقیم روی دستگاه‌های کم‌توان هدف بیش از حد بزرگ بود و همچنان به یک سرور جداگانه متکی بود.
در نتیجه، پژوهشگران یک کرم هوش مصنوعی را که بتواند به‌طور مستقل میان دستگاه‌های ضعیف منتشر شود، مدل خود را منتقل کند و بدون پشتیبانی محاسباتی خارجی به فعالیت ادامه دهد، نشان ندادند.
نگرانی گسترده‌تر Anthropic این است که پیشرفت مدل‌های کوچک‌تر هوش مصنوعی در نهایت بتواند ترکیب این دو قابلیت را آسان‌تر کند. یک مدل کوچک اما به‌اندازه کافی توانمند ممکن است بتواند روی سخت‌افزارهای معمولی اجرا شود و هم‌زمان در فرایند گسترش به سامانه‌های دیگر نیز کمک کند.
این موضوع همچنان یک سناریوی احتمالی است و نتیجه‌ای اثبات‌شده از آزمایش‌ها محسوب نمی‌شود. این تمایز مهم است، زیرا توزیع محاسبات و استقرار نرم‌افزار به‌تنهایی دلیلی بر خودتکثیری خودمختار نیستند.
چرا هوش مصنوعی توزیع‌شده می‌تواند امنیت سایبری را پیچیده‌تر کند
کرم‌های رایانه‌ای پدیده تازه‌ای نیستند. این برنامه‌های مخرب برای انتشار میان سامانه‌ها طراحی می‌شوند و اغلب از آسیب‌پذیری‌ها یا ضعف‌های امنیت شبکه سوءاستفاده می‌کنند. پژوهشگران امنیتی همچنین راه‌هایی را برای افزودن هوش مصنوعی به بدافزارها بررسی کرده‌اند تا این نرم‌افزارها بتوانند خود را با محیط‌های مختلف تطبیق دهند یا بخشی از فرایند حمله را خودکار کنند.
پژوهش Anthropic امکان متفاوتی را بررسی می‌کند: اینکه یک مدل هوش مصنوعی بالقوه خودِ بخشی از سامانه توزیع‌شده باشد، نه اینکه صرفاً به‌عنوان مؤلفه‌ای اضافی برای کمک به نرم‌افزار مخرب متعارف عمل کند.
اگر مهاجمان در آینده بتوانند انتشار خودمختار را با اجرای توزیع‌شده مدل ترکیب کنند، ممکن است بتوانند از دستگاه‌های آلوده به‌عنوان منابع محاسباتی استفاده کنند و در عین حال وابستگی خود به یک دستگاه مرکزی را کاهش دهند.
چنین سامانه‌ای بالقوه می‌تواند از مجموعه‌ای متنوع از سخت‌افزارها، از رایانه‌های شخصی گرفته تا تجهیزات الکترونیکی مصرفی، استفاده کند. اما بهره‌برداری موفق از این امکان مستلزم غلبه بر موانع فنی و امنیتی قابل‌توجهی خواهد بود؛ از جمله دسترسی به دستگاه‌ها، انتقال نرم‌افزار میان آن‌ها، هماهنگ‌کردن محاسبات و حفظ اجرای پایدار.
بنابراین، این پژوهش بیشتر یک مسیر بالقوه برای تهدیدهای مرتبط با هوش مصنوعی را برجسته می‌کند تا اینکه نشان دهد گونه‌ای کاملاً جدید و متوقف‌نشدنی از بدافزار ظهور کرده است.
جفری لَدیش، بنیان‌گذار و مدیر اجرایی مؤسسه غیرانتفاعی ایمنی هوش مصنوعی Palisade Research، به Scientific American گفت منابع محاسباتی می‌توانند از انواع مختلف ماشین‌ها، از جمله تلویزیون‌های هوشمند و رایانه‌های شخصی، تأمین شوند. اظهارات او بر این امکان تأکید دارد که مهاجمان بتوانند دستگاه‌های به‌خطر‌افتاده را به‌عنوان یک مخزن محاسباتی توزیع‌شده در نظر بگیرند.
کارشناسان امنیتی به تکنیک‌های آشنای حمله اشاره می‌کنند
این یافته‌ها همچنین باعث شد کارشناسان امنیت سایبری درباره تداوم قابل‌توجه این روش‌ها با تهدیدهای شناخته‌شده امنیتی هشدار دهند.
ویاس سکار، دانشمند علوم رایانه، هشدار داد که تکنیک‌های ایجاد چنین سامانه‌هایی ممکن است به تعداد اندکی از تیم‌های پژوهشی تخصصی محدود نباشد. اظهارات او که Scientific American گزارش کرده است، به دسترس‌پذیری مدل‌های متن‌باز و این احتمال اشاره دارد که دیگران نیز بتوانند با آزمایش، برخی از رفتارهای نشان‌داده‌شده را بازتولید کنند.
مدل‌های متن‌باز به توسعه‌دهندگان اجازه می‌دهند پارامترهای مدل را دریافت و اجرا کنند و صرفاً به یک سرویس میزبانی‌شده وابسته نباشند. این انعطاف‌پذیری از پژوهش مشروع و اجرای محلی پشتیبانی می‌کند، اما می‌تواند برخی قابلیت‌ها را در اختیار افرادی نیز قرار دهد که می‌خواهند خارج از پلتفرم‌های متمرکز و مدیریت‌شده آزمایش کنند.
دردسترس‌بودن مدل‌ها به‌طور خودکار به معنای عملی‌بودن یک کرم هوش مصنوعی نیست. مهاجمان همچنان باید بر محدودیت‌های سیستم‌عامل، محدودیت‌های سخت‌افزاری خاص هر دستگاه، حفاظت‌های شبکه و دیگر موانع اجرای نرم‌افزار و انتشار آن غلبه کنند.
برای تولیدکنندگان و اپراتورهای دستگاه‌ها، پیامد گسترده‌تر این است که سخت‌افزارهای متصل باید نه‌تنها از نظر عملکرد مورد انتظار، بلکه از نظر شیوه‌هایی که در صورت به‌خطر‌افتادن می‌توانند مورد سوءاستفاده قرار گیرند نیز ارزیابی شوند. قرارگرفتن غیرضروری در معرض شبکه، احراز هویت ضعیف، نرم‌افزارهای به‌روزرسانی‌نشده و محدودیت‌های ناکافی بر رفتار دستگاه می‌توانند هم برای بدافزارهای متعارف و هم برای حملات پیچیده‌ترِ مبتنی بر هوش مصنوعی فرصت ایجاد کنند.
این پژوهش خطر احتمالی آینده را برجسته می‌کند، نه یک تهدید اثبات‌شده را
آزمایش‌های Anthropic نشان می‌دهند که قابلیت‌های هوش مصنوعی و محاسبات توزیع‌شده ممکن است در آینده به شیوه‌هایی با یکدیگر تلاقی کنند که برنامه‌ریزی امنیت سایبری را پیچیده‌تر کند.
این شرکت نشان داد که یک مدل را می‌توان میان ۱۵ جعبه تلویزیونی کم‌هزینه تقسیم کرد و به‌طور جداگانه نیز استقرار یک مدل کوچک‌تر با کمک هوش مصنوعی را در یک محیط ایزوله بررسی کرد. با این حال، یک کرم هوش مصنوعی خودکفا که بتواند در دستگاه‌های مصرفی ضعیف منتشر شود و کاملاً بدون سرور جداگانه فعالیت کند، نشان داده نشد.
این تمایز برای تفسیر یافته‌ها اهمیت اساسی دارد. این پژوهش مجموعه‌ای از اجزای فنی را شناسایی می‌کند که با پیشرفت مدل‌های کوچک‌تر و افزایش توان دستگاه‌های متصل می‌توانند اهمیت بیشتری پیدا کنند، اما سناریوی کامل حمله همچنان اثبات نشده است.
برای صنعت امنیت سایبری، درس فوری این است که تقویت حفاظت از دستگاه‌های متصل ادامه یابد و هم‌زمان بررسی شود که هوش مصنوعی چگونه می‌تواند مقیاس و سازگاری تهدیدهای موجود را تغییر دهد. ظرفیت ایجاد بدافزار هوش مصنوعی توزیع‌شده شایسته توجه است، اما ادعا درباره سامانه‌های خودمختاری که بی‌سر و صدا در لوازم خانگی منتشر می‌شوند باید همچنان بر آنچه پژوهش‌ها واقعاً نشان داده‌اند استوار باشد.