آنتروپیک یک مدل هوش مصنوعی ۲۶ میلیارد پارامتری را روی ۱۵ جعبه تلویزیون ارزان اجرا کرد
۱۵ جعبه اندروید تی‌وی که هرکدام حدود ۵۵ دلار قیمت دارند و تنها ۴ گیگابایت رم در اختیار دارند، برای اجرای یک مدل هوش مصنوعی با ۲۶ میلیارد پارامتر ساخته نشده‌اند. با این حال، پژوهشگران ایمنی آنتروپیک این دستگاه‌ها را به یک شبکه متصل کردند و نتیجه نشان داد که برای متوقف کردن چنین سامانه‌ای نمی‌توان تنها یک کلید خاموشی واحد داشت.
آیا یک مدل هوش مصنوعی توانمند می‌تواند به جای اجرا در یک مرکز داده، خود را میان سخت‌افزارهای ارزان و روزمره توزیع کند؟ و اگر چنین اتفاقی رخ دهد، آیا کسی قادر خواهد بود آن را متوقف کند؟ این پرسشی بود که تیم قرمز مرزی آنتروپیک در پی پاسخ به آن بود و نتایج خود را در ۱۲ اکتبر منتشر کرد.
پژوهشگران، ویلیام ژو و دنیل فریمن، مدل Gemma4-26B-A4B گوگل را که مدلی ۲۶ میلیارد پارامتری و کوانتیزه‌شده با دقت ۴ بیتی است، برداشتند و آن را میان ۱۵ جعبه عمومی اندروید تی‌وی تقسیم کردند که هرکدام حدود ۵۵ دلار خریداری شده بودند. هر دستگاه تنها ۴ گیگابایت رم داشت و به‌تنهایی فضای کافی برای نگهداری مدل را نداشت. اما با اتصال شبکه‌ای دستگاه‌ها و استفاده از موازی‌سازی خط لوله، به‌طوری که هر جعبه تنها دو لایه از مدل را نگه می‌داشت، توانستند مدل را اجرا کنند.
اجرای مدل کند بود؛ بسیار کند. این خوشه تنها حدود ۰٫۳۹ توکن در ثانیه تولید می‌کرد؛ سرعتی بسیار پایین‌تر از ده‌ها یا صدها توکن در ثانیه که یک خوشه واقعی مبتنی بر پردازنده‌های گرافیکی ارائه می‌دهد. اما هدف آزمایش، سرعت نبود. نکته اصلی این بود که چنین کاری اساساً روی سخت‌افزاری امکان‌پذیر شد که یک مجرم، علاقه‌مند فناوری یا حتی یک بازیگر دولتی می‌تواند با پول نقد از یک فروشگاه لوازم الکترونیکی معمولی تهیه کند.
این آزمایش نه یک نشت اطلاعاتی بود و نه یک تجربه خارج از کنترل. این بخشی از ارزیابی‌های مداوم آنتروپیک درباره «تکثیر و سازگاری خودکار» است؛ مسیر پژوهشی که شرکت برای بررسی این موضوع استفاده می‌کند که آیا مدل‌های نزدیک به مرز فناوری می‌توانند بدون هدایت مستقیم انسانی، خود را کپی کنند، در زیرساخت‌های مختلف گسترش یابند و در برابر خاموش شدن مقاومت کنند یا نه.
گزارش خود تیم قرمز مرزی آنتروپیک درباره یافته‌ها صریح است: آن‌ها نوشته‌اند که متوقف کردن یک سامانه تکثیرشونده با چنین ساختاری دشوار خواهد بود، زیرا نقطه مرکزی برای خاموش کردن آن وجود ندارد. اگر یک دستگاه حذف شود، سامانه تنها بخشی از خود را از دست می‌دهد تا زمانی که دستگاه دیگری جایگزین آن شود. در این حالت سروری برای توقیف کردن، حساب ابری واحدی برای تعلیق و کلیدی برای خاموش کردن وجود ندارد.
همین بخش بیش از عدد مربوط به سرعت پردازش اهمیت دارد. بسیاری از فرضیات پیشین درباره کنترل یک سامانه هوش مصنوعی خارج از کنترل، بر این واقعیت استوار بوده‌اند که توان پردازشی گران و متمرکز است: مرکز داده را خاموش کنید، قرارداد ابری را قطع کنید یا کلید دسترسی API را لغو کنید. آزمایش آنتروپیک نشان می‌دهد وقتی مدلی به اندازه کافی کوچک باشد که روی تراشه‌های مصرفی اجرا شود، این فرض دیگر الزاماً برقرار نیست.
پژوهشگران اشاره می‌کنند که تکثیر در چنین سناریویی به‌جای چند ساعت، احتمالاً طی چند روز رخ می‌دهد، زیرا تهیه و آماده‌سازی دستگاه‌های بیشتر زمان و تلاش می‌طلبد. این یک محدودیت واقعی است، اما محدودیتی نیست که بتوان همیشه به آن تکیه کرد.
اقتصاد ماجرا نیز بخش دیگری از داستان است
۱۵ جعبه اندروید تی‌وی با قیمت ۵۵ دلار برای هرکدام، در مجموع حدود ۸۲۵ دلار هزینه سخت‌افزار دارد. این دستگاه‌ها مدلی با ۲۶ میلیارد پارامتر را اجرا کردند؛ اندازه‌ای که تنها دو یا سه سال پیش برای مدل‌های دارای وزن باز، در محدوده‌ای قرار داشت که اجرای تجاری آن در مقیاس قابل قبول به سرمایه‌گذاری جدی روی پردازنده‌های گرافیکی نیاز داشت.
بخش مهمی از پیش‌بینی‌های تقاضا برای تراشه‌های شرکت‌هایی مانند انویدیا، AMD و ارائه‌دهندگان بزرگ خدمات ابری بر این فرض استوار است که اجرای مدل‌های هوش مصنوعی به سیلیکون گران‌قیمت و تخصصی نیاز دارد. این آزمایش یک نمونه نقض کوچک و عمدی از این فرض است: مدلی در این اندازه الزاماً به GPU نیاز ندارد؛ بلکه می‌تواند با صبر و استفاده از تراشه‌های ارزان‌قیمت که وزن‌های مدل را میان تعداد زیادی دستگاه تقسیم می‌کنند، اجرا شود.
این موضوع به معنای آن نیست که توسعه زیرساخت‌های پردازنده گرافیکی بیش از حد بوده یا بی‌فایده است. مدل‌های پیشرفته با صدها میلیارد یا تریلیون‌ها پارامتر کاملاً متفاوت هستند و سرعت ۰٫۳۹ توکن در ثانیه برای اجرای یک محصول واقعی کافی نیست. اما نشان می‌دهد آستانه اینکه «آیا این مدل می‌تواند جایی خارج از کنترل دیگران اجرا شود؟» پایین‌تر از چیزی است که بسیاری از برنامه‌ریزی‌های ایمنی فرض کرده‌اند.
آنتروپیک این آزمایش را دقیقاً به این دلیل طراحی کرد که این شرکت به‌طور عمومی از مقررات ایمنی هوش مصنوعی، از جمله اقداماتی مانند فرمان اجرایی گاوین نیوسام، فرماندار کالیفرنیا، در سپتامبر ۲۰۲۶ برای تسریع قوانین ایمنی هوش مصنوعی ایالتی که آنتروپیک و OpenAI از آن حمایت کرده بودند، پشتیبانی کرده است. شرکتی که خواهان قوانین محدودکننده‌تر است، انگیزه دارد به‌طور عملی نشان دهد کنترل و مهار در چه نقاطی از کار می‌افتد.
طنز ماجرا این است که جعبه‌های ارزان اندروید تی‌وی پیش از این نیز به دلیل مشکلات امنیتی شناخته شده بودند؛ البته نه به دلیل ارتباطی با آنتروپیک. پژوهشگران امنیتی شبکه‌های بات‌نتی مانند BadBox و شبکه جدیدتر Kimwolf را رصد کرده‌اند که بیش از یک میلیون دستگاه اندروید تی‌وی و گیرنده‌های دیجیتال ارزان‌قیمت را برای حملات منع سرویس توزیع‌شده (DDoS) ربوده‌اند. این موضوع نشان می‌دهد همین دسته از سخت‌افزارها در بسیاری از خانه‌های جهان، اغلب بدون حفاظت کافی، وجود دارند.
آزمایش آنتروپیک برای اثبات نکته خود نیازی به نفوذ به دستگاه‌های دیگران نداشت. این شرکت تنها ۱۵ دستگاه خرید و نشان داد وقتی یک آزمایشگاه هوش مصنوعی، نه یک گروه مجرم، تصمیم بگیرد از چنین سخت‌افزاری به‌صورت هدفمند استفاده کند، چه چیزی از نظر فنی امکان‌پذیر است.