آنتروپیک: مدل‌های کوچک هوش مصنوعی تا چند ماه دیگر به خودتکثیری روی دستگاه‌های خانگی نزدیک می‌شوند
بر اساس پژوهش جدید آنتروپیک، مدل‌های هوش مصنوعی کوچک که امکان اجرا روی سخت‌افزارهای ارزان خانه‌های هوشمند را دارند، ممکن است طی چند ماه آینده بتوانند خود را در میان دستگاه‌های آسیب‌پذیر متصل به اینترنت کپی کنند؛ سناریویی که به گفته این شرکت، در صورت وقوع، هیچ کلید خاموشی مرکزی برای متوقف کردن آن در اختیار مدافعان قرار نمی‌دهد.
این شرکت توسعه‌دهنده هوش مصنوعی در گزارشی که روز دوشنبه منتشر شد اعلام کرد تیم «قرمز» مرزی آنتروپیک دریافته است مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر، هم‌اکنون می‌توانند بسیاری از مراحل جداگانه موردنیاز برای خودتکثیری را انجام دهند؛ هرچند هنوز در کنار هم قرار دادن تمام این مراحل به‌صورت کامل و از ابتدا تا انتها با مشکل روبه‌رو هستند. این پژوهش بر تجهیزات تجاری اینترنت اشیا مانند اجاق‌های هوشمند، تلویزیون‌باکس‌های اندرویدی بدون برند و لوازم خانگی متصل تمرکز داشت، زیرا این دستگاه‌ها فراگیر هستند، همواره به اینترنت وصل می‌مانند و اغلب با امنیت ضعیف یا بدون سازوکارهای امنیتی کافی عرضه می‌شوند.
این یافته‌ها جدیدترین هشدار از سوی آزمایشگاه‌های پیشرو هوش مصنوعی درباره تکثیر و سازگاری خودکار هستند؛ فرایندی که در آن یک مدل بدون نظارت انسانی خود را مستقر و منتشر می‌کند. آنتروپیک تأکید کرد که هنوز «تکثیرکننده کاملاً سرکش» وجود ندارد، اما معتقد است روند پیشرفت مدل‌های کوچک‌تر نشان می‌دهد این توانایی ممکن است زودتر از انتظار بسیاری از افراد ایجاد شود.
آزمایش‌ها چه چیزی را نشان دادند
آنتروپیک دو مسیر پژوهشی موازی را بررسی کرد. در بخش نخست، این شرکت آزمایش کرد که آیا مدل‌های کوچک می‌توانند روی سخت‌افزارهای ناآشنا، سرورهای استنتاج هوش مصنوعی راه‌اندازی کنند یا نه. مدل Qwen3.5-9B با ۹ میلیارد پارامتر که یک مدل متن‌باز با وزن‌های قابل دسترسی است، توانست روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده، فرایند پیکربندی استنتاج را با موفقیت انجام دهد. این سخت‌افزارها شامل بردهای NVIDIA Jetson Nano، مک‌های مجهز به تراشه اپل، سرورهای Xeon، یک TPU گوگل، پردازنده AMD MI300X و رایانه‌ای با کارت گرافیک RTX 4090 بودند.
تیم پژوهش همچنین ۱۵ تلویزیون‌باکس اندرویدی عمومی را با قیمت تقریبی ۵۵ دلار برای هر دستگاه خریداری کرد و یک مدل Gemma4-26B-A4B را با استفاده از روش موازی‌سازی خط لوله میان آن‌ها توزیع کرد. هر دستگاه تنها بخشی از لایه‌های مدل را در اختیار داشت و نتایج میانی را مانند یک خط تولید به دستگاه بعدی منتقل می‌کرد. این خوشه آزمایشی با سرعت ۰٫۳۹ توکن در ثانیه استنتاج انجام داد؛ سرعتی که در مقایسه با مراکز داده بسیار پایین است، اما نشان می‌دهد بارهای کاری معنادار هوش مصنوعی می‌توانند روی سخت‌افزاری ارزان‌تر از هزینه یک شام دونفره اجرا شوند.
بخش دوم پژوهش به انتشار در شبکه پرداخت. محققان هشت گره گوگل کلاد را که شبیه‌سازهای اندروید ۱۵ را در یک ابر خصوصی مجازی اجرا می‌کردند، راه‌اندازی کردند و عاملی را در آن قرار دادند که از طریق یک درگاه بدون احراز هویت Android Debug Bridge میان آن‌ها جابه‌جا می‌شد. مدل GLM-5.2 با ۷۴۴ میلیارد پارامتر توانست در چهار مورد از پنج آزمایش، یک مدل بسیار کوچک‌تر Llama 3.1 8B را به هر هشت گره منتقل کند و در آزمایش باقی‌مانده نیز هفت گره را آلوده کرد. هیچ مدل متن‌باز دیگری که آزمایش شد نتوانست این زنجیره را بدون هدایت GLM-5.2 کامل کند.
این تفاوت اهمیت زیادی دارد. مدل بزرگ‌تر خود را روی دستگاه‌های شبیه‌سازی‌شده تکثیر نکرد؛ بلکه یک مدل کوچک‌تر را مستقر کرد که سخت‌افزار هدف واقعاً توانایی اجرای آن را داشت. آنتروپیک در گزارش خود این موضوع را نشانه‌ای می‌داند که مدلی با سطح توانایی GLM-5.2، اگر بتوان آن را به محدوده ۹ تا ۲۶ میلیارد پارامتر فشرده کرد، ممکن است بتواند زنجیره کامل تکثیر را روی سخت‌افزارهای ارزان اجرا کند. با این حال، چنین فشرده‌سازی هنوز اثبات نشده است و فاصله میان «هوشمند بودن برای تکثیر» و «کوچک بودن برای اجرا» همچنان مهم‌ترین مانع حل‌نشده باقی مانده است.
چرا متوقف کردن آن دشوار خواهد بود
یک بات‌نت سنتی دارای سرورهای فرمان و کنترل است. اگر این سرورها از کار بیفتند، دستگاه‌های آلوده نیز خاموش می‌شوند. اما یک تکثیرکننده مبتنی بر وزن‌های مدل ــ بدافزاری که وزن‌های مدل هوش مصنوعی را همراه با نرم‌افزار لازم برای اجرای استنتاج منتشر می‌کند ــ چنین نقطه شکست واحدی ندارد. هر دستگاه آلوده به گره‌ای مستقل از یک هوش توزیع‌شده تبدیل می‌شود که می‌تواند سخت‌افزارهای ناشناخته را بررسی کند و بدون دریافت دستور از یک مرکز، خود را سازگار کند.
آنتروپیک این وضعیت احتمالی را با سامانه‌های زیستی مقایسه کرد و آن را نوعی «کپک لزج دیجیتال» کند و توزیع‌شده توصیف کرد که روی منابع محاسباتی ضعیف محافظت‌شده باقی می‌ماند. این شرکت همچنین اشاره کرد که چنین تکثیرکننده‌هایی می‌توانند سازگاری‌های ایجادشده را به نسخه‌های بعدی منتقل کنند و به چارچوب Memento که در آزمایش‌های خود استفاده کرده بود، اشاره کرد. زمانی که تلاش برای آلودگی ناموفق بود، مدل یادداشت‌هایی درباره دلیل شکست ثبت می‌کرد و این یادداشت‌ها سپس به نسل بعدی منتقل می‌شدند. در یک مجموعه آزمایش، نرخ موفقیت نسل‌های بعدی از ۴۵ درصد به ۸۴ درصد افزایش یافت، زیرا هر نسخه جدید از اشتباهات نسخه قبلی یاد می‌گرفت.
جالب اینکه دسترسی مدل‌های کوچک به یک «راهنمای قدرتمند مرزی» مانند Opus 4.8 خود آنتروپیک، کمکی به آن‌ها نکرد. پژوهشگران دریافتند مدل‌های کوچک اغلب نمی‌دانستند چه پرسشی باید مطرح کنند و زمانی که اجازه داشتند به‌تنهایی تکرار و اصلاح شوند، عملکرد بهتری داشتند.
مشکل سرعت
این تهدید به اندازه شیوع یک حمله مشابه Mirai فوری نیست. زمانی که Mirai در سال ۲۰۱۶ ظاهر شد، جمعیت دستگاه‌های آلوده خود را تقریباً در یک ساعت دو برابر می‌کرد. آنتروپیک تخمین می‌زند یک تکثیرکننده هوش مصنوعی برای دو برابر شدن تعداد خود به چند روز و احتمالاً بیشتر زمان نیاز دارد. بر اساس سرعت ثبت‌شده روی تلویزیون‌باکس‌های آزمایشی، راه‌اندازی محیط استنتاج روی یک میزبان جدید برای Qwen3.5-9B حدود ۲۸ تا ۵۱ ساعت و برای Gemma4-26B-A4B حدود ۷۱ تا ۱۵۰ ساعت زمان می‌برد.
وزن‌های مدل نیز در مقایسه با محموله‌های معمول بدافزار بسیار بزرگ هستند. انتقال فایل‌های چند گیگابایتی میان هزاران دستگاه آلوده، ترافیک شبکه قابل توجهی ایجاد می‌کند و شناسایی آن را نسبت به کرم‌های سنتی آسان‌تر می‌سازد. آنتروپیک این تضاد را پذیرفت: همان ویژگی‌ای که تکثیرکننده‌های هوش مصنوعی را خطرناک می‌کند ــ توانایی سازگاری ــ آن‌ها را کند، پرسر و صدا و نیازمند منابع زیاد نیز می‌کند.
این شرکت تلاش کرد ابعاد یک ناوگان بدترین حالت را نیز محاسبه کند. با استفاده از بات‌نت Kimwolf که در اوج فعالیت خود بیش از دو میلیون دستگاه را آلوده کرده بود، آنتروپیک برآورد کرد چنین جمعیتی می‌تواند حدود ۱۳۳ هزار نمونه از Gemma4-26B-A4B را پشتیبانی کند، اگر هر ۱۵ دستگاه در مجموع میزبان یک مدل باشند. با سرعت اندازه‌گیری‌شده، این ناوگان توان پردازشی معادل حدود ۴۰ کارت Hopper H100 ارائه می‌دهد؛ رقمی که در نگاه نخست چشمگیر است، اما برای دستیابی به آن به دو میلیون دستگاه آلوده نیاز خواهد بود.
گام بعدی چیست
پیش‌بینی آنتروپیک به یک متغیر اصلی وابسته است: سرعت بهبود مدل‌های کوچک. این شرکت با استفاده از پیشرفت‌های تاریخی توانایی عمومی هوش مصنوعی که در شاخص Epoch Capabilities Index اندازه‌گیری شده‌اند، اعلام کرد مدل‌های در کلاس ۳۰ میلیارد پارامتر ممکن است تا پایان سال جاری به سطح توانایی لازم برسند. تکثیرکننده‌های مبتنی بر وزن در اندازه‌های کوچک‌تر نیز «اندکی پس از آن» دنبال خواهند شد.
این شرکت از پیش‌بینی دقیق شکل نهایی تکثیر خودکار خودداری کرد. سناریوهای مطرح‌شده از سوی آن شامل وضعیتی شبیه کپک لزج دیجیتال کند و توزیع‌شده، یک «مدل سایبری قدرتمند که با سرعت بالا به مراکز داده نفوذ می‌کند» یا حتی مدل‌هایی است که برای دریافت اعتبار محاسباتی از افراد کلاهبرداری می‌کنند. وجه مشترک همه این سناریوها نبود کنترل انسانی است.
آنتروپیک نوشت: «ما انتظار آینده‌ای را داریم که در آن عوامل روی همه انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.» این شرکت خواستار تقویت امنیت سامانه‌ها برای دشوارتر کردن انتشار چنین عوامل شد و در عین حال توصیه کرد برای جهانی آماده شوند که در آن چنین تکثیرکننده‌هایی «برای ماندن آمده‌اند».
این هشدار در شرایطی مطرح می‌شود که ادبیات هشدارهای ایمنی از سوی آزمایشگاه‌های پیشرو هوش مصنوعی شدت گرفته است. در ماه سپتامبر، پیشرفت مدل‌های پیشرفته باعث شد صنعت هوش مصنوعی هشدارهای گسترده‌تری درباره خطرهای وجودی مطرح کند. اوان هوبینگر، پژوهشگر آنتروپیک، اخیراً احتمال نابودی بشریت توسط هوش مصنوعی در یک دهه آینده را بیش از ۱۰ درصد دانسته است، در حالی که گزارش ریسک این شرکت در ماه اوت، ارزیابی خطر ناهماهنگی در موقعیت‌های پرریسک را از «بسیار پایین» به «پایین» افزایش داد.
منتقدان اشاره کرده‌اند که آزمایش‌های آنتروپیک بر شرایطی ساده‌شده تکیه داشتند: درگاه‌های ADB در معرض دسترسی بودند، برخی مراحل امنیتی حذف شده بود و یک چارچوب آزمایشی اختصاصی استفاده شد که خود شرکت آن را «حد بالای موفقیت در دنیای واقعی» توصیف کرده است. بخش مربوط به سوءاستفاده سایبری برای تکثیر نیز تا حد زیادی کنار گذاشته شد و شرکت به پژوهش‌های قبلی اشاره کرد که نشان می‌دهند مدل‌های کوچک در صورت داشتن ابزارهای مناسب می‌توانند آسیب‌پذیری‌ها را مورد بهره‌برداری قرار دهند.
با این حال، یافته اصلی همچنان پابرجاست: اجزای جداگانه یک کرم هوش مصنوعی ــ سازگاری با سخت‌افزار، راه‌اندازی استنتاج، انتشار در شبکه و انتقال تجربه ــ دیگر صرفاً فرضیه نظری نیستند. چالش باقی‌مانده، یکپارچه‌سازی این اجزا و فشرده‌سازی مدل‌های توانمند به بسته‌هایی کوچک است که بتوانند در دستگاهی مانند یک اجاق هوشمند پنهان شوند.