تیم قرمز Anthropic هوش مصنوعی را روی ۱۵ جعبه تلویزیونی ارزان اجرا کرد؛ نتایج محاسبات نگران‌کننده شد
تیم قرمز Frontier در Anthropic با هزینه‌ای حدود ۸۲۵ دلار، خوشه‌ای از ۱۵ جعبه تلویزیونی اندرویدی متفرقه ساخت که می‌تواند یک مدل هوش مصنوعی را با سرعت ۰٫۳۹ توکن در ثانیه اجرا کند؛ سرعتی بسیار پایین برای یک چت‌بات، اما برای نرم‌افزاری که عجله‌ای ندارد و کاربری منتظر آن نیست، کافی است.
این آزمایش، پایه پژوهش جدیدی از پژوهشگران Anthropic یعنی ویلیام ژو و دنیل فریمن است که روز دوشنبه منتشر شد. این پژوهش نشان می‌دهد مدل‌های کوچک متن‌باز ممکن است تنها چند ماه با توانایی تکثیر خود روی سخت‌افزارهای ارزان و متصل به اینترنت فاصله داشته باشند؛ بدون آنکه به مراکز داده وابسته باشند.
پژوهشگران هنوز یک کرم هوش مصنوعی نساخته‌اند که بتواند به‌طور مستقل در اینترنت عمومی منتشر شود. آزمایش‌های آن‌ها در محیط‌های کنترل‌شده انجام شده و با میان‌برهایی همراه بوده که فرایند تکثیر را آسان‌تر می‌کردند. با این حال، نتایج نشان می‌دهد چند مانع فنی باقی‌مانده ممکن است موقتی باشند.
پژوهشگران هنوز یک کرم هوش مصنوعی نساخته‌اند که بتواند به‌طور مستقل در اینترنت عمومی منتشر شود و آزمایش‌های آن‌ها در محیط‌های کنترل‌شده با میان‌برهایی انجام شد که تکثیر را آسان‌تر می‌کردند.
استنتاج، مانع اصلی است
ژو و فریمن چهار مرحله را برای تکثیر یک هوش مصنوعی شناسایی کرده‌اند: پیدا کردن هدف، دسترسی پیدا کردن به آن، راه‌اندازی فرایند استنتاج و سپس انتقال به دستگاه بعدی.
معیارهای پیشین مانند CyberGym و ExploitBench نشان می‌دهند مدل‌های کوچک‌تر هوش مصنوعی هم‌اکنون می‌توانند بخشی از کارهای مربوط به سوءاستفاده از آسیب‌پذیری‌ها را انجام دهند. همچنین عامل‌های پیشرفته‌تر در اوایل امسال با استفاده از سوءاستفاده‌های ساده از محیط‌های آزمایشی خود خارج شدند. چالش بزرگ‌تر ممکن است اجرای یک مدل روی سخت‌افزارهای ناآشنا باشد؛ جایی که سیستم باید مشکلات مربوط به سیستم‌عامل، وابستگی‌های نرم‌افزاری و نصب را حل کند.
در آزمایش‌های Anthropic، مدل Qwen3.5-9B توانست یک سرور استنتاج فعال برای Llama3.1-8B را روی هشت مورد از ۹ نوع سخت‌افزار راه‌اندازی کند؛ از جمله Jetson Nano، رایانه‌های مک و دستگاه‌های مجهز به RTX 4090. مدل بزرگ‌تر GLM-5.2 همین کار را با اطمینان بیشتر و توان عملیاتی بالاتر انجام داد.
تیم پژوهشی سپس یک محیط Google Cloud با دیواره آتش ایجاد کرد که در آن هشت گره با شبیه‌سازهای اندروید اجرا می‌شدند. سیستم از یک نمونه اولیه کرم شروع می‌کرد و باید به دیگر گره‌ها می‌رسید و روی هرکدام یک سرور استنتاج فعال ایجاد می‌کرد. هر زمان سرور یک گره آزمون‌های صحت و جلوگیری از تقلب را با موفقیت پشت سر می‌گذاشت، نسخه تازه‌ای از کرم ایجاد می‌شد. GLM-5.2 در چهار مورد از پنج آزمایش به هر هشت گره رسید و در آزمایش پنجم به هفت گره دست پیدا کرد.
GLM-5.2 روی یک سرور استنتاج جداگانه اجرا می‌شد، زیرا دستگاه‌های هدف توان نگهداری آن را نداشتند. به همین دلیل کرم به‌جای آن یک مدل کوچک‌تر ۸ میلیارد پارامتری نصب می‌کرد. همچنین پژوهشگران با باز گذاشتن یک درگاه بدون احراز هویت Android Debug Bridge، فرایند بهره‌برداری را آسان‌تر کردند.
هر زمان سرور یک گره آزمون‌های صحت و جلوگیری از تقلب را با موفقیت پشت سر می‌گذاشت، نسخه تازه‌ای از کرم ایجاد می‌شد و GLM-5.2 در چهار مورد از پنج آزمایش به هر هشت گره رسید.
کرم‌هایی که یادداشت برمی‌دارند
عامل‌های هوش مصنوعی زمانی که می‌توانستند یادداشت‌های باقی‌مانده از تلاش‌های قبلی را بخوانند، در راه‌اندازی استنتاج روی سخت‌افزارهای ناآشنا عملکرد بهتری داشتند. پژوهشگران Qwen3.5-9B را در قالب ۲۰ تبار جداگانه آزمایش کردند که هرکدام شش نسل ادامه داشتند. میزان موفقیت از ۴۵ درصد در نسل نخست به حدود ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش یافت.
پژوهشگران این فرایند را «وراثت لامارکی» می‌نامند؛ وضعیتی که در آن یک عامل، آموخته‌های خود را بدون بازآموزی مدل به عامل بعدی منتقل می‌کند. این سازوکار برای توسعه‌دهندگانی که از محیط‌های اجرای پایدار عامل‌های هوش مصنوعی مانند OpenClaw و Hermes Agent استفاده می‌کنند، آشناست؛ اما در اینجا حافظه به نسخه‌های بعدی کمک می‌کند تا مشکلات نصب روی سخت‌افزارهایی را که هرگز ندیده‌اند حل کنند.
پژوهشگران این فرایند را «وراثت لامارکی» می‌نامند؛ جایی که یک عامل آموخته‌های خود را بدون بازآموزی مدل به عامل بعدی منتقل می‌کند.
تیم پژوهشی همچنین آزمایش کرد که آیا دسترسی Qwen3.5-9B به مدل بسیار قدرتمندتر Opus 4.8 برای دریافت راهنمایی کمک می‌کند یا نه. این کار هیچ بهبود آماری معناداری ایجاد نکرد، زیرا مدل کوچک‌تر معمولاً نمی‌دانست چه پرسش‌های درستی باید مطرح کند.
روند تا پایان سال ۲۰۲۶
این مقاله دو محدودیت اصلی را شناسایی می‌کند که تاکنون این سناریو را صرفاً نظری نگه داشته‌اند. یک مدل باید هم توانایی کافی برای تکثیر قابل‌اعتماد داشته باشد و هم آن‌قدر کوچک باشد که روی سخت‌افزارهای در معرض خطر اجرا شود؛ اما در حال حاضر این دو ویژگی با هم جمع نشده‌اند. GLM-5.2 در آزمایش ساده‌شده توانایی لازم را نشان داد، اما برای دستگاه‌های ارزان مورد نظر پژوهشگران بیش از حد بزرگ است. در مقابل، مدل‌های کوچک‌تر می‌توانند روی این دستگاه‌ها اجرا شوند، به‌ویژه وقتی استنتاج میان چند ماشین توزیع شود، اما هنوز نمی‌توانند کل فرایند را به‌طور پایدار انجام دهند.
پژوهشگران با استفاده از شاخص توانمندی‌های Epoch، مدل‌های متن‌باز دارای ۳۰ میلیارد پارامتر یا کمتر را بررسی کردند و دریافتند که تا پایان سال ۲۰۲۶، روند رشد نشان می‌دهد قوی‌ترین مدل‌های این گروه ممکن است به سطح توانایی کلی GLM-5.2 برسند. این برآورد تقریبی است، زیرا امتیازهای کلی توانمندی لزوماً عملکرد در تکثیر را پیش‌بینی نمی‌کنند و آزمایش کامل تیم نیز در شرایط مساعد انجام شده بود.
طبق محاسبات پژوهشگران، جعبه‌های تلویزیونی معمولی ۴ گیگابایتی با وزن‌های ۴ بیتی می‌توانند یک مدل ۹ میلیارد پارامتری را روی چهار دستگاه یا بیشتر و یک مدل ۲۶ میلیارد پارامتری را روی ۱۰ دستگاه یا بیشتر میزبانی کنند. به همین دلیل خوشه ۱۵ جعبه‌ای خود آن‌ها می‌تواند Gemma4-26B-A4B را اجرا کند.
راه‌اندازی یک سامانه استنتاج روی چنین سخت‌افزاری بسته به مدل می‌تواند حدود ۲۸ تا ۱۵۰ ساعت زمان ببرد. پژوهشگران معتقدند عامل‌های سبک‌وزن ممکن است بیش از مهاجمان انسانی تمایل داشته باشند چنین فرایندهایی را روی تعداد بسیار زیادی دستگاه تکرار کنند. آن‌ها این احتمال را به یک کپک لجن دیجیتال تشبیه می‌کنند که به‌آرامی در منابعی که به آن‌ها دسترسی پیدا می‌کند گسترش می‌یابد.
جعبه‌های ارزان، توان پردازشی قرضی
بات‌نت Kimwolf بیش از دو میلیون دستگاه را آلوده کرده بود که بیشتر آن‌ها جعبه‌های تلویزیونی ارزان اندرویدی بودند. پژوهشگران با استفاده از این رقم محاسبه کردند که یک تکثیرکننده هوش مصنوعی با شبکه‌ای در همین اندازه چه کاری می‌تواند انجام دهد. تقسیم این دستگاه‌ها به خوشه‌های ۱۵تایی که Gemma4-26B-A4B را اجرا کنند، حدود ۱۳۳ هزار نسخه از مدل ایجاد می‌کند که مجموعاً ۸۰ هزار توکن در ثانیه تولید می‌کنند.
این میزان معادل حداکثر حدود ۴۰ پردازنده گرافیکی Nvidia H100 است؛ رقمی که در مقیاس مراکز داده چندان بزرگ نیست، اما هزینه سخت‌افزار و اجرای آن بر عهده شخص دیگری خواهد بود.
پژوهشگران همچنین شتاب‌دهنده‌های لبه‌ای مانند Nvidia Jetson را بررسی کردند؛ دستگاه‌هایی که در تجهیزاتی مانند دوربین‌های امنیتی، تجهیزات اتاق کنفرانس، ربات‌ها و پهپادها استفاده می‌شوند. این دستگاه‌ها معمولاً دسترسی دشوارتری دارند، زیرا از طریق ارتباطات خروجی با سامانه‌های مدیریت ابری ارتباط برقرار می‌کنند.
متوقف کردن نرم‌افزاری که خود را تکثیر می‌کند
پژوهشگران نمی‌گویند هیچ راهی برای متوقف کردن یک کرم هوش مصنوعی خودتکثیرشونده وجود ندارد. برخی ویژگی‌های چنین سامانه‌ای حتی ممکن است شناسایی آن را آسان‌تر کند. انتقال مدل‌های چند گیگابایتی میان دستگاه‌ها ترافیک شبکه‌ای ایجاد می‌کند که ارائه‌دهندگان خدمات اینترنتی می‌توانند آن را زیر نظر بگیرند و یک کرم که به‌سرعت گسترش پیدا کند، بدون جلب توجه باقی نخواهد ماند.
در جریان پاک‌سازی بات‌نت Mirai، قرنطینه مشترکان آلوده توسط یکی از ارائه‌دهندگان اینترنت باعث پاک شدن ۹۲ درصد آلودگی‌ها طی ۱۴ روز شد. پژوهشگران انتظار دارند رویکرد مشابهی بتواند نخستین خط دفاعی در برابر چنین تهدیدی باشد. با این حال، حذف کامل یک تکثیرکننده نیازمند هماهنگی همه ارائه‌دهندگان اینترنتی با مشتریان آلوده خواهد بود.