آنتروپیک قابلیت تکثیر خودکار هوش مصنوعی را روی تی‌وی‌باکس‌های ارزان‌قیمت آزمایش کرد
گسترش هوش مصنوعی در یک شبکه لزوماً به مراکز داده عظیم یا شتاب‌دهنده‌های گرافیکی گران‌قیمت نیاز ندارد. پژوهشگران شرکت آنتروپیک دریافته‌اند که مدل‌های زبانی امروزی از همین حالا می‌توانند بخشی از کارهای لازم برای راه‌اندازی خودکار روی سخت‌افزارهای ناآشنا را انجام دهند. این قابلیت ممکن است در بلندمدت به هوش مصنوعی امکان دهد از دستگاهی به دستگاه دیگر منتقل شود و شبکه‌هایی غیرمتمرکز از تجهیزات مصرفی معمولی ایجاد کند؛ شبکه‌هایی که متوقف کردن فعالیت آن‌ها دشوار خواهد بود.
تکثیر خودکار هوش مصنوعی چگونه انجام می‌شود؟
ویلیام ژو و دنیل فریمن، پژوهشگران تیم Frontier Red Team، سناریویی را بررسی کرده‌اند که در آن یک هوش مصنوعی بدون دخالت مستقیم انسان، نسخه‌هایی از خود را راه‌اندازی می‌کند و به دستگاه‌های دیگر انتقال می‌دهد. این فرایند «تکثیر و سازگاری خودکار» یا Autonomous Replication and Adaptation نام دارد و به‌اختصار ARA خوانده می‌شود.
پژوهش‌های پیشین نشان داده بودند که عامل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را در شبکه شناسایی کنند، از حفره‌های امنیتی کشف‌شده بهره ببرند و فایل‌های مدل را به رایانه‌های دیگر انتقال دهند. بااین‌حال، پژوهش جدید آنتروپیک بر چالش متفاوتی تمرکز دارد: آیا یک مدل می‌تواند بدون کمک انسان، محیط لازم برای اجرای خود را روی سخت‌افزاری که پیش‌تر با آن مواجه نشده است آماده کند؟
انجام این کار مستلزم حل چند مسئله فنی به‌ترتیب مشخص است. مدل ابتدا باید مشخصات دستگاه را شناسایی کند، سپس نرم‌افزار سازگار و نسخه مناسب کتابخانه‌های موردنیاز را انتخاب کند و در نهایت، تنظیمات اجرا را با منابع سخت‌افزاری موجود هماهنگ سازد. این فرایند همیشه به دسترسی مدیر سیستم نیاز ندارد و برخی مدل‌ها می‌توانند در محیط یک کاربر عادی نیز اجرا شوند.
آنچه پژوهشگران را نگران می‌کند، ترکیب همین توانایی‌هاست. اگر هوش مصنوعی بتواند مستقلاً خود را با دستگاه‌های مختلف سازگار کند، گسترش آن دیگر به یک پلتفرم سخت‌افزاری خاص وابسته نخواهد بود.
تی‌وی‌باکس‌های ارزان‌قیمت؛ بستری برای آزمایش
پژوهشگران برای ارزیابی توانایی مدل‌های امروزی، ۱۵ تی‌وی‌باکس اندرویدی ارزان‌قیمت خریداری کردند که هرکدام حدود ۵۵ دلار قیمت داشت. آن‌ها به‌جای اجرای کامل مدل روی هر دستگاه، لایه‌های آن را با استفاده از روش «موازی‌سازی خط لوله‌ای» (Pipeline Parallelism) میان چند دستگاه توزیع کردند.
در این آزمایش از مدل Gemma4-26B-A4B استفاده شد. این روش امکان اجرای مدل را روی مجموعه‌ای از دستگاه‌های کم‌مصرف فراهم کرد، هرچند سرعت پردازش بسیار پایین بود و به حدود ۰٫۳۹ توکن در ثانیه می‌رسید. بنابراین، آزمایش امکان‌پذیر بودن اجرای محاسبات از نظر فنی را تأیید کرد، اما عملکرد سریعی را به نمایش نگذاشت.
این دستگاه‌ها به‌دلیل منابع سخت‌افزاری محدود و تفاوت کیفیت امکانات امنیتی در مدل‌های مختلف، برای پژوهشگران امنیت جذاب هستند. برخی از آن‌ها تنها یک تا چهار گیگابایت حافظه رم دارند و کیفیت پشتیبانی نرم‌افزاری و انتشار به‌روزرسانی‌هایشان نیز به شرکت سازنده بستگی دارد.
نویسندگان پژوهش برای اشاره به تهدیدهای موجود، از بات‌نت Kimwolf نام برده‌اند که طبق داده‌های استنادشده در این مطالعه، بیش از دو میلیون دستگاه را آلوده کرده است. این نمونه نشان می‌دهد شبکه‌هایی که از تجهیزات مصرفی پرکاربرد تشکیل می‌شوند، تا چه اندازه می‌توانند گسترش پیدا کنند. البته این موضوع به‌خودی‌خود ثابت نمی‌کند که هوش مصنوعی دارای قابلیت تکثیر خودکار نیز در شرایط کنونی می‌تواند به چنین مقیاسی برسد.
کدام مدل‌ها آزمایش‌ها را با موفقیت پشت سر گذاشتند؟
پژوهشگران در جریان آزمایش‌ها بررسی کردند که مدل‌های مختلف تا چه اندازه می‌توانند خود را با پلتفرم‌های سخت‌افزاری متفاوت سازگار کنند. یک مدل ۹ میلیارد پارامتری توانست در هشت مورد از مجموع ۹ نوع سخت‌افزار، تنظیمات لازم برای اجرای خود را با موفقیت انجام دهد. دستگاه‌های آزمایش‌شده شامل NVIDIA Jetson Nano، رایانه‌های مک و سیستم‌های مجهز به کارت گرافیک RTX 4090 بودند.
تیم پژوهشی در آزمایشی جداگانه بررسی کرد که آیا مدل‌ها می‌توانند مراحل پیکربندی را به‌ترتیب روی چندین گره شبکه انجام دهند یا خیر. در سناریویی ساده‌شده با هشت دستگاه که نیازی به دسترسی از طریق درگاه ADB نداشت، مدل GLM-5.2 بهترین عملکرد را ثبت کرد. این مدل در چهار مورد از پنج آزمایش توانست به تمام گره‌ها دسترسی پیدا کند و فرایند را روی آن‌ها پیش ببرد. در آزمایش پنجم نیز به هفت گره از هشت گره رسید.
سایر مدل‌های متن‌باز نتوانستند کل فرایند را به‌شکلی پایدار و قابل‌اتکا تکمیل کنند. این نتیجه نشان می‌دهد برخورداری از مهارت‌های فنی موردنیاز به‌صورت جداگانه، لزوماً به معنای توانایی مدیریت مستقل یک فرایند کامل گسترش در شبکه نیست.
با ساده‌تر شدن وظایف، نتایج تغییر کرد. هنگامی که پژوهشگران مراحل پیچیده پیکربندی را با یک اسکریپت آماده جایگزین کردند، حتی مدل‌های کوچک نیز توانستند بخش قابل‌توجهی از کار را انجام دهند. برای نمونه، یک مدل سه میلیارد پارامتری موفق شد در شبکه‌ای متشکل از ۱۷ دستگاه، حدود نیمی از گره‌ها را پیمایش کند.
نویسندگان تأکید می‌کنند که این آزمایش‌ها معادل شبیه‌سازی کامل یک حمله سایبری در مقیاس واقعی نیستند. شرایط آزمایش ساده‌سازی شده بود و به همین دلیل، نتایج بیش از آنکه نشان‌دهنده عملکرد قطعی مدل‌ها در شبکه‌های واقعی باشند، توانایی بالقوه آن‌ها را در شرایط مساعد نشان می‌دهند.
هوش مصنوعی خودتکثیرشونده چه زمانی ممکن است به واقعیت تبدیل شود؟
پژوهشگران برای ارزیابی چشم‌انداز این فناوری، دو محدودیت اصلی را مشخص کردند. نخست، حداقل سطح توانمندی لازم برای آنکه یک مدل بتواند اقدامات ضروری برای تکثیر خود را به‌طور قابل‌اتکا انجام دهد. دوم، حداکثر اندازه مدلی که با توجه به حافظه و قدرت پردازشی موجود، امکان اجرا روی یک دستگاه را داشته باشد.
در حال حاضر، این دو شرط هم‌زمان برآورده نمی‌شوند. مدل‌هایی که توانایی کافی برای انجام وظایف پیچیده دارند، همیشه روی سخت‌افزارهای ضعیف قابل اجرا نیستند و مدل‌های کوچک‌تر نیز لزوماً نمی‌توانند تمام مراحل را به‌تنهایی و با اطمینان انجام دهند.
این پژوهش همچنین روند پیشرفت مدل‌های متن‌باز را با استفاده از شاخص توانمندی Epoch یا Epoch Capabilities Index بررسی کرده است. بر اساس ارزیابی نویسندگان، بهترین مدل‌های متن‌باز با حداکثر ۳۰ میلیارد پارامتر، سالانه حدود ۱۳٫۷ امتیاز در این شاخص پیشرفت می‌کنند.
پژوهشگران بر پایه این داده‌ها فرض می‌کنند که تا پایان سال ۲۰۲۶ ممکن است مدلی با توانمندی‌هایی مشابه آنچه GLM-5.2 در آزمایش‌ها نشان داده است، در دسترس قرار گیرد. بااین‌حال، این برآورد تقریبی است. شاخص مورد استفاده، توانایی تکثیر خودکار را به‌طور مستقیم اندازه‌گیری نمی‌کند و بنابراین نمی‌توان آن را پیش‌بینی دقیقی از زمان ظهور یک بات‌نت هوش مصنوعی خودمختار دانست.
چرا چنین شبکه‌ای ممکن است کند اما مقاوم باشد؟
آزمایش‌های انجام‌شده روی تی‌وی‌باکس‌های واقعی نشان دادند که آماده‌سازی خودکار محیط برای اجرای مدل به زمان زیادی نیاز دارد. این فرایند برای مدل Gemma4-26B-A4B بین ۷۱ تا ۱۵۰ ساعت طول کشید، درحالی‌که مدل Qwen3.5-9B به ۲۸ تا ۵۱ ساعت زمان نیاز داشت.
چنین سرعت پایینی باعث می‌شود گسترش این مدل‌ها در مقایسه با بدافزارهای سنتی بسیار کم‌بازده‌تر باشد. بااین‌وجود، پژوهشگران سناریویی فرضی را بررسی کردند که در آن چنین سازوکاری به شبکه‌ای در ابعاد بات‌نت Kimwolf دسترسی پیدا می‌کند.
بر اساس محاسبات آن‌ها، در چنین شبکه‌ای ممکن است حدود ۱۳۳ هزار نسخه از مدل ایجاد شود. توان پردازشی مجموع این دستگاه‌ها تقریباً با ۴۰ شتاب‌دهنده NVIDIA H100 برابری خواهد کرد. این میزان منابع پردازشی در مقیاس سامانه‌های بزرگ هوش مصنوعی ناچیز است، اما نشان می‌دهد انجام محاسبات توزیع‌شده بدون اتکا به زیرساخت متمرکز امکان‌پذیر است.
بااین‌حال، مسئله اصلی بیش از آنکه سرعت باشد، پایداری و مقاومت شبکه در برابر اختلال است. یک شبکه غیرمتمرکز سرور واحدی ندارد که با قطع ارتباط آن بتوان توقف تمام فرایندها را تضمین کرد. حتی اگر تعدادی از دستگاه‌ها از کار بیفتند، ممکن است گره‌های باقی‌مانده همچنان به فعالیت خود ادامه دهند.
البته این سناریو همچنان در حد فرضیه است. آزمایش انجام‌شده وجود یک بات‌نت کامل هوش مصنوعی را که بتواند در شبکه‌ای واقعی به‌طور مستقل گسترش یابد و پس از اقدامات مقابله‌ای نیز فعال بماند، نشان نداده است.
آیا هوش مصنوعی می‌تواند فرایند گسترش خود را بهبود دهد؟
یکی دیگر از قابلیت‌هایی که تیم آنتروپیک بررسی کرده، انتقال تجربه‌های به‌دست‌آمده میان نسل‌های مختلف نسخه‌های مدل است. در برخی سناریوها، نسخه‌های بعدی می‌توانند از یادداشت‌هایی که نسخه‌های پیشین بر جای گذاشته‌اند استفاده کنند تا پیکربندی روی سخت‌افزارهای جدید آسان‌تر شود.
در آزمایش‌های انجام‌شده با مدل Qwen3.5-9B، میزان موفقیت در راه‌اندازی از ۴۵ درصد در نسل نخست به ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش یافت. این نتیجه نشان می‌دهد حفظ اطلاعات کاربردی می‌تواند کارایی انجام دوباره عملیات فنی مشابه را بهبود بخشد.
در مقابل، دستورالعمل‌هایی که مدل قدرتمندتر Opus 4.8 تهیه کرده بود، نتایج مورد انتظار را به همراه نداشت. پژوهشگران این نتیجه را نشانه آن می‌دانند که انتقال صرف توصیه‌ها کافی نیست؛ به‌ویژه زمانی که یک مدل کوچک نتواند به‌درستی تشخیص دهد برای حل مسئله‌ای مشخص باید چه پرسش‌هایی مطرح کند.
به همین دلیل، نویسندگان احتمال تقسیم وظایف میان مدل‌ها را نیز مطرح کرده‌اند. در چنین ساختاری، یک مدل قدرتمندتر می‌تواند هماهنگی فعالیت‌ها را بر عهده بگیرد و مدل‌های کوچک‌تر، عملیات مشخصی را روی دستگاه‌های در دسترس انجام دهند. البته این تنها یکی از سناریوهای احتمالی توسعه فناوری است و وجود چنین ساختاری در یک شبکه فعال هنوز تأیید نشده است.
چگونه می‌توان با این تهدیدها مقابله کرد؟
پژوهشگران معتقدند مقابله با بات‌نت‌های احتمالی مبتنی بر هوش مصنوعی باید بر ترکیبی از چند راهکار استوار باشد.
یکی از این راهکارها، پایش ترافیک شبکه است. انتقال فایل‌های حجیم مدل‌ها و تبادل فشرده داده میان دستگاه‌ها می‌تواند ردپاهای قابل‌شناسایی بر جای بگذارد. همچنین استفاده از سامانه‌های پژوهشی ایزوله یا «تله‌های امنیتی» (Honeypots) می‌تواند اطلاعات بیشتری درباره روش‌های گسترش این شبکه‌ها در اختیار متخصصان قرار دهد.
راهکار دوم، شناسایی سریع دستگاه‌های آلوده و جدا کردن آن‌ها از شبکه است. پژوهش به تجربه مقابله با بات‌نت Mirai اشاره می‌کند. طبق داده‌های ذکرشده، اطلاع‌رسانی به کاربران و اعمال محدودیت برای مشترکان آلوده کمک کرد تا ظرف ۱۴ روز، ۹۲ درصد آلودگی‌ها برطرف شود؛ درحالی‌که بدون اجرای چنین اقداماتی، این رقم ۷۴ درصد بود.
تأمین امنیت دستگاه‌ها از مرحله تولید نیز اهمیت زیادی دارد. به‌ویژه استفاده از گذرواژه‌های پیش‌فرض کارخانه‌ای که به‌آسانی قابل حدس زدن هستند، زمینه آلودگی گسترده تجهیزات را فراهم می‌کند. در بریتانیا، الزامات امنیتی مربوط به دستگاه‌های مصرفی از هم‌اکنون چنین رویه‌هایی را محدود کرده‌اند.