Anthropic هشدار داد هوش مصنوعی خودتکثیرشونده ممکن است به دستگاه‌های هوشمند شما سرایت کند

شرکت Anthropic هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند در میان دستگاه‌های مصرفی اینترنت اشیا، از جعبه‌های تلویزیون اندرویدی گرفته تا اجاق‌های هوشمند، خود را تکثیر کنند و شبکه‌های بات‌نت توزیع‌شده‌ای ایجاد کنند که بدون اتکا به مراکز داده، بارهای کاری هوش مصنوعی را اجرا می‌کنند.

آزمایش‌های این شرکت نشان داد که مدل‌ها می‌توانند دستگاه‌های ناشناخته را شناسایی کنند، آن‌ها را به یک شبکه متصل کنند و برای اجرای یک مدل هوش مصنوعی آماده سازند.

با وجود این، پژوهشگران موفق شدند مدل Gemma4-26B-A4B شرکت Google DeepMind را روی ۱۵ جعبه تلویزیون اندرویدی بدون برند توزیع کنند، اما نتوانستند یک کرم هوش مصنوعی کاملاً خودمختار و خودتکثیرشونده را روی سخت‌افزار واقعی اینترنت اشیا اجرا کنند.

با این حال، آن‌ها برآورد می‌کنند که اگر روند بهبود مدل‌های کوچک با سرعت تاریخی خود ادامه پیدا کند، این مدل‌ها ممکن است تا پایان سال توانایی لازم برای خودتکثیری را به دست آورند.

Anthropic در گزارش خود هشدار داده است: «آزمایش‌های ما نشان می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی کافی برای خودتکثیری روی دستگاه‌های تجاری اینترنت اشیا، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی بدون برند، فاصله داشته باشند.»

این شرکت افزود: «خاموش کردن چنین سازوکاری دشوار خواهد بود، زیرا نقطه مرکزی برای قطع آن وجود ندارد؛ هرچند ممکن است سرعت گسترش آن پایین باشد و دو برابر شدن تعداد نمونه‌ها چند روز زمان ببرد.»

آزمایش تکثیر

Anthropic آزمایش تکثیر خود را با استفاده از جعبه‌های تلویزیون اندرویدی ارزان‌قیمت و مدل‌های هوش مصنوعی Qwen3.5-9B، Gemma4-26B-A4B، Llama3.1-8B، Opus 4.8 و GLM-5.2 انجام داد که هرکدام نقش متفاوتی داشتند.

Qwen3.5-9B و GLM-5.2 به‌عنوان عامل‌هایی عمل کردند که وظیفه راه‌اندازی و انتشار Llama3.1-8B (برای استنتاج) را بر عهده داشتند. Gemma4-26B-A4B نیز نشان داد که یک مدل می‌تواند روی ۱۵ جعبه تلویزیون اندرویدی اجرا شود. Opus 4.8 به‌طور جداگانه به‌عنوان مشاور Qwen آزمایش شد.

این آزمایش در محیطی ساده‌شده انجام شد که در آن دستگاه‌های هدف دسترسی بدون احراز هویت ADB را در اختیار داشتند.

آزمایش‌ها نشان دادند که Qwen3.5-9B توانست نرم‌افزارهای لازم برای اجرای Llama3.1-8B را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده نصب و پیکربندی کند.

GLM-5.2 در شبکه شبیه‌سازی‌شده و کنترل‌شده، در چهار مورد از پنج آزمایش توانست به هر هشت گره دسترسی پیدا کند، اما سایر مدل‌ها نتوانستند این فرایند کامل را به‌طور قابل اعتماد انجام دهند.

Anthropic مشاهده کرد که نگه‌داشتن داده‌های تلاش‌های قبلی باعث افزایش نرخ موفقیت شد؛ به‌طوری که نرخ موفقیت Qwen3.5-9B از ۴۵ درصد در مراحل اولیه به ۸۴ درصد در نسل‌های بعدی رسید.

استفاده از مدل قوی‌تر Opus 4.8 برای کمک به Qwen در فرایند استنتاج، هیچ بهبود قابل اندازه‌گیری ایجاد نکرد.

Anthropic بر اساس نتایج آزمایش‌ها و داده‌های تاریخی پیش‌بینی می‌کند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی مورد نیاز برسند.

در سخت‌افزارهای بررسی‌شده، راه‌اندازی استنتاج فرایندی کند خواهد بود؛ به‌طوری که برای Qwen3.5-9B بین ۲۸ تا ۵۱ ساعت و برای Gemma4-26B-A4B بین ۷۱ تا ۱۵۰ ساعت زمان نیاز دارد. این زمان به مدافعان فرصت کافی برای شناسایی و واکنش نشان دادن می‌دهد.

با این حال، این زمان ممکن است با مدل‌های آینده کاهش یابد؛ بنابراین اجرای تدابیر امنیتی قوی‌تر برای دستگاه‌های اینترنت اشیا ممکن است به‌زودی به یک اولویت تبدیل شود.

راهکارهای دفاعی پیشنهادی شامل شناسایی انتقال‌های بزرگ مدل‌ها و ترافیک غیرعادی میان دستگاه‌ها، استفاده از هانی‌پات‌ها برای بررسی محموله‌ها، قرنطینه مشترکان آلوده و بهبود تنظیمات پیش‌فرض امنیتی دستگاه‌های اینترنت اشیا است.

اگرچه هشدار Anthropic بر پایه یک تهدید فوری نیست، زیرا آزمایش این شرکت در این مرحله حتی با کاهش تنظیمات امنیتی و تعیین اهداف مشخص برای انتشار، نتوانست توانایی کامل ایجاد یک کرم سرتاسری را نشان دهد، اما پیام اصلی درباره ضرورت بهبود امنیت اینترنت اشیا همچنان معتبر است.