Anthropic مواد لازم برای کرم‌های هوش مصنوعی آینده را شناسایی کرد
حملات سایبری خودتکثیرشونده مبتنی بر هوش مصنوعی ممکن است در آینده ظهور کنند، اما در حال حاضر به نظر نمی‌رسد تهدیدی عملی برای مدافعان سایبری باشند.
ویلیام ژو و دنیل فریمن از Anthropic در پژوهشی که ۱۲ اکتبر منتشر شد، ظرفیت دستگاه‌های تجاری اینترنت اشیا، توانایی مدل‌های هوش مصنوعی برای خودتکثیری میان دستگاه‌ها و شبکه‌ها، و امکان استفاده از این قابلیت برای ایجاد کرم‌های مخرب رایانه‌ای را بررسی کردند. آنها در این پژوهش نتیجه گرفتند که «مدل‌های هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطح توانایی لازم برای خودتکثیری روی دستگاه‌های تجاری اینترنت اشیا، مانند فرهای هوشمند و گیرنده‌های تلویزیونی اندرویدی بدون برند، فاصله داشته باشند.»
برای نشان دادن اینکه یک کرم خودکار در شرایط مخرب می‌تواند در شبکه‌ای از دستگاه‌های ناامن گسترش یابد، پژوهشگران این فرایند را به چهار مرحله تقسیم کردند: شناسایی اهداف، دسترسی به دستگاه‌های مختلف، راه‌اندازی استنتاج روی دستگاه جدید و ادامه انتشار از آن دستگاه به دستگاه بعدی.
این مطالعه شامل چندین آزمایش بود و در نهایت نشان داد که شبکه‌ای از دستگاه‌های ارزان اندرویدی می‌تواند میزبان یک مدل باشد و مدل‌های هوش مصنوعی به‌طور فزاینده‌ای قادرند مراحل جداگانه موردنیاز برای تکثیر خودکار را انجام دهند.
آزمایش امکان ایجاد یک کرم هوش مصنوعی
پژوهشگران مدل Gemma4-26B-A4B، نسخه‌ای از مدل متن‌باز با وزن‌های قابل دسترس Gemma 4 گوگل با مجموع ۲۶ میلیارد پارامتر، را با توزیع میان ۱۵ گیرنده تلویزیونی اندرویدی ارزان و بدون برند اجرا کردند. این دستگاه‌ها که هرکدام حدود ۵۵ دلار قیمت داشتند، به‌صورت آماده خریداری و به یک شبکه متصل شدند و با سرعت ۰٫۳۹ توکن در ثانیه کار کردند. هر دستگاه بخشی از مدل را میزبانی می‌کرد تا نشان داده شود یک مدل قدرتمند می‌تواند روی دستگاه‌های مصرفی پایین‌رده نیز فرایند استنتاج را انجام دهد.
ژو و فریمن نوشتند: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه مرکزی برای متوقف کردن آن وجود ندارد؛ هرچند ممکن است سرعت آن پایین باشد (با زمان دوبرابر شدن در حد چند روز). برخلاف بدافزارهای غیرهوش مصنوعی، این سامانه می‌تواند دستگاه‌های ناشناخته را نیز به‌طور مستقل شناسایی کند.»
در آزمایش دیگری که به یافته دوم مربوط می‌شد، Anthropic بررسی کرد آیا مدل‌های هوش مصنوعی می‌توانند به‌صورت خودکار در یک شبکه اندرویدی منتشر شوند یا خیر. پژوهشگران یک گره را در یک شبکه ایزوله هشت‌گرهی اندرویدی که در محیط شبیه‌سازی‌شده Google Cloud Platform ساخته شده بود، به مدل مجهز کردند و از مدل‌های مختلف هوش مصنوعی خواستند بدون دخالت انسان از یک گره به گره دیگر منتقل شوند.
مدل‌ها باید اهداف را پیدا می‌کردند، محموله را کپی می‌کردند، استنتاج را روی گره‌های بعدی راه‌اندازی می‌کردند و بدون دخالت بیشتر انسان، انتشار را ادامه می‌دادند. آزمایش نخست بررسی می‌کرد آیا سخت‌افزارهای اینترنت اشیا می‌توانند به‌صورت جمعی میزبان مدل‌های هوش مصنوعی مفید باشند؛ آزمایش دوم نیز بررسی می‌کرد آیا می‌توان مدل‌ها را به انجام خودکار مراحل لازم برای انتشار مانند یک کرم رایانه‌ای در شبکه وادار کرد.
این مطالعه چندین مدل با وزن‌های باز را به‌عنوان عامل هوش مصنوعی آزمایش کرد؛ از جمله Qwen3.5-9B، Gemma4-26B-A4B، Qwen3-Coder-Next و GLM-5.2 که همگی نسخه‌ای از Llama3.1-8B را به‌عنوان محموله «کرم» منتشر می‌کردند. به‌جای آزمایش اینکه آیا مدل‌ها می‌توانند وزن‌های خود را روی دستگاه‌های تازه آلوده کپی و اجرا کنند، Anthropic محموله را به‌صورت استاندارد نسخه‌ای از Llama3.1-8B قرار داد تا توانایی مدل‌های عامل‌محور در استقرار این محموله و ادامه انتشار اندازه‌گیری شود.
به بیان دیگر، این آزمایش‌ها در شرایطی بسیار مطلوب انجام شدند. Anthropic اجازه انتشار از طریق دسترسی بدون احراز هویت Android Debug Bridge (ADB) را داد؛ بنابراین هدف پژوهش، سنجش حداکثر توانایی ممکن بود، نه شبیه‌سازی حمله‌ای که یک مهاجم در دنیای واقعی به‌طور منطقی انجام دهد.
تنها GLM-5.2 توانست این فرایند کامل را به‌طور قابل اعتماد انجام دهد؛ این مدل در چهار مورد از پنج آزمایش به هر هشت گره رسید و در آزمایش پنجم به هفت گره دست یافت. ژو و فریمن نوشتند: «مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، امروز می‌توانند بسیاری از مراحل جداگانه تکثیر را انجام دهند، اما هنگام ترکیب همه مراحل در یک فرایند کامل دچار خطا می‌شوند.»
موفقیت GLM تا حدی ناشی از شرایط ایده‌آل برای مهاجم بود، زیرا دشواری بهره‌برداری از دستگاه‌ها در هر گره بسیار پایین نگه داشته شده بود. این پژوهش همچنین نشان داد GLM-5.2 با ۴۰ میلیارد پارامتر فعال، به‌مراتب توانمندتر از مدل‌های کوچک‌تر مانند Qwen3.5-9B با ۹ میلیارد پارامتر و Gemma4-26B-A4B با ۴ میلیارد پارامتر فعال است.
آیا تکثیر مدل‌های هوش مصنوعی واقعاً اجتناب‌ناپذیر است؟
Anthropic نتیجه می‌گیرد اگر GLM-5.2 امروز قادر به انجام همه مراحل لازم برای تکثیر شبیه کرم باشد و مدل‌های ضعیف‌تر نیز بسیاری از مراحل منفرد را انجام دهند، ممکن است تنها مسئله زمان باشد تا این مدل‌ها به سطح GLM-5.2 برسند. پژوهشگران گفتند: «اگر مدل‌های کوچک با همان نرخ تاریخی پیشرفت کنند، تا پایان امسال به این سطح از توانایی خواهند رسید. اندکی پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن مدل‌ها ممکن است امکان‌پذیر شوند.»
با این حال، نرخ‌های تاریخی پیشرفت لزوماً شاخص دقیقی برای آینده نیستند. Anthropic نشان نداد که یک مهاجم می‌تواند یک مدل متن‌باز کوچک را به کرم هوش مصنوعی تبدیل کند که قادر باشد در یک شبکه خود را تکثیر کند. این شرکت در عوض چندین نمایش ارائه کرد تا نشان دهد چنین حمله‌ای چگونه ممکن است در آینده به یک امکان تبدیل شود.
جان گالاگر، معاون شرکت امنیت فناوری عملیاتی و اینترنت اشیا Viakoo، به Dark Reading گفت این روش حمله قرار نیست یک‌شبه فراگیر شود.
او گفت: «اگرچه دستگاه‌های امروزی OT/IoT نسبت به سامانه‌های قدیمی توان پردازشی و فضای ذخیره‌سازی بسیار بیشتری دارند (برای مثال دستگاه‌هایی با NPU و حافظه اختصاصی)، موانع دیگری برای رسیدن به خودتکثیری عملی هوش مصنوعی وجود دارد. برای نمونه، انتقال گیگابایت‌ها وزن مدل از طریق ارتباطات سلولی یا کم‌پهنای‌باند OT/IoT یا ذخیره آن روی حافظه‌های فلش محدود، همچنان یک مانع عملی بزرگ است.»
کریس گروو، مدیر راهبرد امنیت سایبری در Nozomi Networks، می‌گوید خودتکثیری هوش مصنوعی از دیدگاه مدافعان تهدیدی ویژه محسوب می‌شود. او گفت: «حفظ زیرساخت در برابر تهدیدهای خودانتشارشونده با سرعت ماشین، هزینه بیشتری نسبت به دفاع در برابر تهدیدهایی دارد که با سرعت انسان عمل می‌کنند.»
گروو معتقد است صرف‌نظر از نتیجه‌گیری آزمایشگاه‌ها، در نهایت کسی به این توانایی دست خواهد یافت و «قابلیت دفاعی خودکار احتمالاً ضروری خواهد شد.»
Anthropic به درخواست Dark Reading برای اظهارنظر پاسخ نداد.