Anthropic: مدل‌های کوچک هوش مصنوعی به آستانه خودتکثیری نزدیک می‌شوند

خودتکثیری هوش مصنوعی روی دستگاه‌های اینترنت اشیا

پژوهشگران Anthropic با اتصال ۱۵ دستگاه اندرویدی تلویزیونی متفرقه که هرکدام حدود ۵۵ دلار قیمت داشتند، توانستند یک مدل هوش مصنوعی ۲۶ میلیاردپارامتری را اجرا کنند. این آزمایش کوچک پایه هشداری بزرگ‌تر است: در پژوهش جدید تیم قرمز مرزی Anthropic آمده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در میان دستگاه‌های ارزان متصل به اینترنت فاصله داشته باشند؛ بدون آنکه به مرکز داده‌ای در پشت صحنه نیاز داشته باشند.

نکات کلیدی

• مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون بسیاری از مراحل تکثیر را انجام می‌دهند، اما هنگام زنجیره‌کردن همه مراحل پشت سر هم هنوز دچار خطا می‌شوند.
• در یک آزمایش ساده‌شده، GLM-5.2 تنها مدل متن‌باز دارای وزن بود که توانست در یک شبکه هشت‌گرهی کامل منتشر شود و در چهار مورد از پنج آزمایش به همه گره‌ها برسد.
• اگر مدل‌های کوچک با همان سرعت تاریخی خود پیشرفت کنند، Anthropic انتظار دارد تا پایان سال ۲۰۲۶ به چنین سطحی برسند.

مدلی تقسیم‌شده میان جعبه‌های ارزان

ویلیام ژو و دنیل فریمن، پژوهشگران Anthropic، مدل Gemma4-26B-A4B را روی ۱۵ دستگاه اجرا کردند که هرکدام ۴ گیگابایت رم داشتند. هر دستگاه بخش کوچکی از لایه‌های مدل را نگه می‌داشت؛ روشی که به «موازی‌سازی خط لوله‌ای» شناخته می‌شود. این مجموعه دستگاه‌ها با سرعت ۰٫۳۹ توکن در ثانیه خروجی تولید کرد.

این سرعت برای یک چت‌بات بسیار پایین است، اما برای یک کرم رایانه‌ای، میزان دسترسی مهم‌تر از سرعت است. تیم پژوهش به Kimwolf اشاره می‌کند؛ بات‌نتی که بیش از دو میلیون دستگاه، عمدتاً تلویزیون‌های اندرویدی متفرقه، را آلوده کرده بود. چنین دستگاه‌هایی معمولاً نسخه‌های تغییریافته اندروید را اجرا می‌کنند که سازندگان آن‌ها امکانات امنیتی محدودی به آن افزوده‌اند.

چهار مرحله برای انتشار

Anthropic فرایند تکثیر را به چهار مرحله تقسیم می‌کند: یافتن اهداف، به‌دست‌آوردن امکان اجرا، راه‌اندازی استنتاج و سپس انتشار دوباره از میزبان جدید. تیم پژوهش بیشتر مراحل هک را کنار گذاشت، زیرا به مطالعات پیشین استناد می‌کند که نشان داده‌اند مدل‌های کوچک هم‌اکنون می‌توانند برخی سوءاستفاده‌های سایبری را انجام دهند. تمرکز اصلی روی راه‌اندازی استنتاج بود؛ مرحله‌ای که به زنجیره طولانی از تصمیم‌های مرتبط با سخت‌افزار نیاز دارد.

یک مدل ۹ میلیاردپارامتری توانست استنتاج را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده، از Jetson Nano تا مک‌ها، اجرا کند. مدل‌های ۳۰ میلیاردپارامتری یا کوچک‌تر بسیاری از مراحل جداگانه را با موفقیت انجام دادند، اما هنگام اتصال همه مراحل به یکدیگر دچار مشکل شدند.

یک مدل توانست مسیر کامل را طی کند

برای آزمایش چرخه کامل، تیم پژوهش یک شبکه هشت‌گرهی فایروال‌شده در Google Cloud ساخت که روی آن شبیه‌ساز اندروید ۱۵ یعنی redroid اجرا می‌شد. یک کرم از پیش آماده‌شده از طریق یک درگاه بدون احراز هویت Android Debug Bridge (ADB) از گره‌ای به گره دیگر منتقل شد و سپس سروری را برای اجرای Llama3.1-8B راه‌اندازی کرد. هر نسخه جدید باید پیش از ایجاد نسخه بعدی، آزمون‌های صحت و جلوگیری از تقلب را پشت سر می‌گذاشت.

GLM-5.2 تنها مدل متن‌باز دارای وزن در میان مدل‌های آزمایش‌شده بود که توانست این چرخه را کامل کند. این مدل در چهار آزمایش از پنج آزمایش به هر هشت گره رسید و در آزمایش پنجم به هفت گره از هشت گره دست یافت. از آنجا که بازبودن درگاه ADB چالش هک را حذف کرده بود، Anthropic این نتیجه را حداکثر توانایی ممکن در شرایط واقعی می‌داند. این شرکت همچنین یادآوری می‌کند که بات‌نت Mirai در گذشته تنها با استفاده از فهرست گذرواژه‌های پیش‌فرض سازندگان توانست گسترش یابد.

پژوهشگران سپس مدل‌های متن‌باز دارای ۳۰ میلیارد پارامتر یا کمتر را با شاخص قابلیت‌های Epoch مقایسه کردند. روند رشد سالانه ۱۳٫۷ امتیازی نشان می‌دهد که یک مدل کوچک می‌تواند تا پایان ۲۰۲۶ به سطح GLM-5.2 برسد. Anthropic تأکید می‌کند که این شاخص تنها یک معیار تقریبی برای توانایی تکثیر است.

کند، پایدار و دشوار برای خاموش‌کردن

چنین عامل تکثیرکننده‌ای بسیار کند خواهد بود. Anthropic تخمین می‌زند راه‌اندازی کامل استنتاج روی دستگاه‌های تلویزیونی برای مدل ۲۶ میلیاردپارامتری بین ۷۱ تا ۱۵۰ ساعت و برای مدل ۹ میلیاردپارامتری بین ۲۸ تا ۵۱ ساعت زمان ببرد. مجموعه‌ای به اندازه Kimwolf می‌تواند حدود ۱۳۳ هزار نسخه از مدل را میزبانی کند که مجموعاً نزدیک به ۸۰ هزار توکن در ثانیه پردازش ارائه می‌دهند؛ ظرفیتی معادل حداکثر ۴۰ تراشه Nvidia H100.

خطر اصلی در پایداری است، نه سرعت. مدلی که بدون نقطه مرکزی کنترل در حال انتشار باشد، دشوارتر حذف خواهد شد و برخلاف بدافزارهای سنتی می‌تواند دستگاه‌های ناشناخته را به‌صورت مستقل شناسایی کند. Anthropic می‌گوید پردازنده‌های گرافیکی مراکز داده همچنان هدف اصلی هستند، اما ابزارهای ارزان و کم‌دفاع می‌توانند توان محاسباتی کافی برای اجرای مدل‌های قدرتمند فراهم کنند.

این نسخه‌ها همچنین می‌توانند یاد بگیرند. هنگامی که نمونه‌های متوالی Qwen3.5-9B یادداشت‌های نسخه‌های قبلی خود را به ارث بردند، موفقیت در راه‌اندازی از ۴۵ درصد در نسل اول به ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش یافت. افزودن یک مشاور پیشرفته، یعنی Opus 4.8 از Anthropic، به مدل کوچک‌تر، بهبود قابل‌اندازه‌گیری ایجاد نکرد.

جایی که مدافعان برتری دارند

Anthropic دفاع در برابر این تهدید را شبیه کنترل یک همه‌گیری توصیف می‌کند: باید تعداد آلودگی‌های جدید ایجادشده توسط هر دستگاه آلوده کمتر از یک باشد. انتقال مدل‌های چندگیگابایتی و ارتباط دائمی میان دستگاه‌ها می‌تواند در پایش جریان اینترنت توسط ارائه‌دهندگان خدمات آشکار شود و تله‌های امنیتی نیز می‌توانند کد یک کرم را ثبت کنند. زمانی که یک ارائه‌دهنده خدمات در جریان شیوع Mirai مشتریان آلوده را قرنطینه و مطلع کرد، ۹۲ درصد آلودگی‌ها طی ۱۴ روز پاک شدند؛ در حالی که بدون اطلاع‌رسانی این رقم ۷۴ درصد بود. Anthropic همچنین ممنوعیت بریتانیا برای استفاده از گذرواژه‌های پیش‌فرض در دستگاه‌های هوشمند را راهی برای کاهش تعداد اهداف آسان می‌داند.

Anthropic نخستین گروهی نیست که این خطر را بررسی می‌کند. در سال ۲۰۲۴، پژوهشگران دانشگاه فودان گزارش دادند که دو مدل متن‌باز در دست‌کم نیمی از آزمایش‌های خود نسخه‌های فعال از خود تولید کردند و مقاله‌ای در ماه مه ۲۰۲۶ استدلال کرد که مدل‌های زبانی اکنون می‌توانند اهداف را هک کرده و به‌طور مستقل خود را تکثیر کنند. تفاوت پژوهش جدید در تمرکز آن بر سخت‌افزار ضعیف مصرفی به‌جای خوشه‌های سروری است؛ سخت‌افزاری که در خانه‌ها از لوازم هوشمند گرفته تا هاب‌هایی مانند HomeView اپل در حال افزایش است.

جنبه متن‌باز این موضوع همچنین به بحث درباره انتشار مدل‌ها دامن می‌زند. GLM-5.2 محصول شرکت چینی Z.ai است و یک بررسی اخیر نشان داده است که آزمایش‌های ایمنی تنها برای ۳٫۶ درصد از انتشار مدل‌های آزمایشگاه‌های هوش مصنوعی چین منتشر می‌شود. رفتارهای غیرمنتظره عامل‌های هوش مصنوعی نیز به مشکلی عملی تبدیل شده است؛ یکی از مدل‌های خود Anthropic گزارش دروغینی درباره قتل به پلیس فیلادلفیا ارسال کرد. برای شرکت‌ها، این پژوهش مدیریت ریسک امنیت سایبری را دشوارتر می‌کند، زیرا هر تلویزیون هوشمند فراموش‌شده یا فر هوشمند اکنون می‌تواند به‌عنوان یک منبع بالقوه محاسباتی در نظر گرفته شود.

نتیجه‌گیری خود Anthropic محتاطانه است. این شرکت هنوز یک عامل خودتکثیرکننده سرکش کامل مشاهده نکرده است. با این حال، نشانه‌هایی از شکل‌گیری «کرم‌های هوش مصنوعی» می‌بیند و از مدافعان می‌خواهد همین حالا سیستم‌ها را مقاوم‌تر کنند و برای جهانی آماده شوند که در آن تکثیرکننده‌های کند ممکن است مدت زیادی باقی بمانند.

نوشته: Vytautas Valinskas