Anthropic هشدار داد کرم‌های هوش مصنوعی خودتکثیرشونده ممکن است در دستگاه‌های هوشمند خانگی گسترش یابند
Anthropic هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است در آینده بتوانند خود را تکثیر کنند و به‌صورت خودکار در میان دستگاه‌های اینترنت اشیا خانگی مانند فرهای هوشمند، تلویزیون‌ها و جاروبرقی‌ها گسترش یابند. این تهدید می‌تواند بدون نیاز به مراکز داده و تنها با استفاده از خود دستگاه‌ها رخ دهد.
هشدار Anthropic درباره خطر انتشار خودکار
Anthropic اعلام کرده است که کرم‌های «هوش مصنوعی خودتکثیرشونده» ممکن است «چند ماه» با رسیدن به توانایی کپی‌کردن خود و انتشار در دستگاه‌های متصل به اینترنت فاصله داشته باشند. این شرکت گفت توانایی تکثیر بدون کنترل انسانی می‌تواند خاموش‌کردن چنین عامل‌هایی را دشوار کند، زیرا «نقطه مرکزی برای خاموش‌کردن آن‌ها وجود ندارد».
تیم قرمز مرزی Anthropic سناریویی بدترین حالت را بررسی کرده است که در آن «انبوهی از مدل‌های مختلف» می‌توانند روی انواع سخت‌افزارها با استفاده از «روش‌های گوناگون تکثیر» مستقر شوند. Anthropic گفت پژوهشگرانش «مطمئن نیستند این حملات دقیقاً چه شکلی خواهند داشت»؛ از جمله این احتمال که مدل‌های هوش مصنوعی بتوانند مانند «کپک لزج دیجیتال» توزیع شوند یا مدل‌هایی ایجاد کنند که توانایی نفوذ به مراکز داده را داشته باشند.
آزمایش روی دستگاه‌های ارزان‌قیمت
پژوهشگران Anthropic آزمایش کردند که آیا مدل‌های کوچک می‌توانند روی سخت‌افزارهای ناآشنا اجرا شوند یا نه. آن‌ها مدل Gemma4-26B-A4B را روی شبکه‌ای از ۱۵ دستگاه تلویزیون اندرویدی ارزان و بدون برند مشخص اجرا کردند. طبق گزارش SecurityWeek، Anthropic این ۱۵ دستگاه را با قیمت حدود ۵۵ دلار برای هر دستگاه خریداری کرد و یک مدل متن‌باز ۲۶ میلیارد پارامتری روی آن‌ها با سرعت ۰٫۳۹ توکن در ثانیه اجرا شد.
Tom's Hardware گزارش داد که گزارش ۱۲ اکتبر Anthropic نشان می‌دهد مدل Qwen3.5-9B توانسته است روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده، از دستگاه‌های NVIDIA Jetson Nano گرفته تا رایانه‌های مجهز به Apple Silicon و سرورهای Xeon، یک سرور استنتاج ایجاد کند. این گزارش همچنین اشاره کرد که Anthropic مدل Gemma4-26B-A4B را روی ۱۵ تلویزیون اندرویدی ارزان اجرا کرده و مجموع نرخ تولید آن ۰٫۳۹ توکن در ثانیه بوده است.
تقویت سامانه‌ها و خطرهای آینده
Anthropic اعلام کرده است که «دقیقاً نمی‌داند تکثیر خودکار هوش مصنوعی چه شکلی خواهد داشت» و هشدار داده که این خطر می‌تواند از یک سامانه «کند و توزیع‌شده» روی دستگاه‌های ناامن تا یک «مدل سایبری قدرتمند» که با سرعت بالا به مراکز داده نفوذ می‌کند، متفاوت باشد.
این شرکت گفت انتظار دارد آینده‌ای شکل بگیرد که در آن «عامل‌هایی روی همه انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی که تحت کنترل انسان نیستند». Anthropic افزود که «ظهور تکثیرکننده‌های کند می‌تواند نشانه‌ای برای نمونه‌های تهاجمی‌تر و سریع‌تر باشد».
Anthropic به کاربران توصیه کرده است که «سامانه‌های خود را مقاوم‌سازی کنند تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما همچنین برای جهانی آماده شوند که این عامل‌ها در آن حضور دائمی دارند». این شرکت تأکید کرد که هنوز «هیچ تکثیرکننده کاملاً سرکشی» وجود ندارد، اما عامل‌ها «به‌طور فزاینده‌ای توانایی انجام مراحل منفرد زنجیره تکثیر را پیدا می‌کنند».