آنتروپیک هشدار داد هوش مصنوعی ممکن است به‌زودی خود را در میان دستگاه‌های هوشمند تکثیر کند
آنتروپیک درباره چه چیزی هشدار داده است؟
شرکت هوش مصنوعی آنتروپیک درباره سامانه‌های هوش مصنوعی خودمختاری ابراز نگرانی کرده است که ممکن است به‌زودی بتوانند خود را در میان دستگاه‌های هوشمند روزمره مانند تلویزیون‌ها، یخچال‌ها، فرها و دوربین‌های امنیتی تکثیر کنند.
چنین سامانه‌هایی که با عنوان «تکثیرکننده‌های خودکار هوش مصنوعی» توصیف می‌شوند، می‌توانند بدون دخالت انسان نسخه‌هایی از خود ایجاد کنند. برخلاف سامانه‌های هوش مصنوعی که در مراکز داده متمرکز فعالیت می‌کنند، این نسخه‌ها ممکن است در شمار زیادی از دستگاه‌های متصل به اینترنت پراکنده شوند و متوقف کردن آن‌ها دشوارتر شود.
آنتروپیک اعلام کرد تاکنون یک تکثیرکننده خودمختار و مخرب هوش مصنوعی به وجود نیامده است، اما عامل‌های هوش مصنوعی به‌تدریج توانایی انجام وظایف جداگانه موردنیاز برای تکثیر را پیدا می‌کنند. این شرکت هشدار داد اگر روند پیشرفت فعلی ادامه یابد، مدل‌های کوچک‌تر ممکن است طی چند ماه آینده به چنین قابلیت‌هایی دست پیدا کنند.
هوش مصنوعی چگونه می‌تواند در دستگاه‌های هوشمند تکثیر شود؟
آنتروپیک سامانه‌هایی موسوم به «تکثیرکننده‌های مبتنی بر وزن» را بررسی کرد که می‌توانند مدل‌های هوش مصنوعی را مستقیماً روی سخت‌افزارهای به‌دست‌آمده یا آسیب‌پذیر اجرا کنند. پژوهشگران آزمایش کردند که آیا دستگاه‌های نسبتاً ارزان متصل به اینترنت می‌توانند از این مدل‌ها پشتیبانی کنند یا نه. آن‌ها مدل Gemma4-26B-A4B را روی ۱۵ دستگاه اندرویدی تلویزیونی با قیمت تقریبی ۵۵ دلار برای هر دستگاه اجرا کردند. سرعت اجرای مدل ۰.۳۹ توکن در ثانیه بود.
یک مدل جداگانه ۹ میلیارد پارامتری نیز با موفقیت روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده اجرا شد. پژوهشگران دریافتند راه‌اندازی استنتاج هوش مصنوعی همچنان چالشی مهم است، زیرا به تصمیم‌گیری درباره سیستم‌عامل‌ها، بسته‌های نرم‌افزاری، سازگاری میان اجزا و رفع خطاها نیاز دارد.
با این حال، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از مراحل جداگانه موردنیاز برای تکثیر را انجام دهند.
هوش مصنوعی با چه سرعتی می‌تواند گسترش یابد؟
آنتروپیک اعلام کرد تکثیر در میان دستگاه‌های هوشمند احتمالاً روندی کند اما مداوم خواهد داشت. آزمایش‌های این شرکت نشان داد راه‌اندازی Gemma4-26B-A4B حدود ۷۱ تا ۱۵۰ ساعت زمان نیاز داشت، در حالی که این زمان برای Qwen3.5-9B بین ۲۸ تا ۵۱ ساعت بود.
پژوهشگران تخمین زدند شبکه‌ای آلوده شامل بیش از دو میلیون تلویزیون می‌تواند در شرایط نظری، در صورتی که هر ۱۵ دستگاه میزبان یک نسخه باشند، از حدود ۱۳۳ هزار کپی یک مدل پشتیبانی کند.
این شرکت همچنین بررسی کرد که آیا سامانه‌های هوش مصنوعی می‌توانند از طریق تلاش‌های تکرارشونده بهبود پیدا کنند یا نه. هنگامی که نمونه‌های بعدی Qwen3.5-9B اطلاعات مربوط به شکست‌های قبلی را به ارث بردند، میزان موفقیت در راه‌اندازی استنتاج از ۴۵ درصد در نسل نخست به ۸۴ درصد در نسل‌های بعدی افزایش یافت.
آنتروپیک گفت برخی مدل‌های بزرگ‌تر ممکن است هم‌اکنون توانایی انجام فرایند کامل تکثیر را داشته باشند، در حالی که مدل‌های کوچک‌تر شاید تا پایان سال ۲۰۲۶ به قابلیت‌های مشابه برسند.
چرا دستگاه‌های هوشمند یک نگرانی امنیتی هستند؟
دستگاه‌های اینترنت اشیا در خانه‌ها و کسب‌وکارهای کوچک می‌توانند به اهداف جذابی تبدیل شوند، زیرا همچنان به اینترنت متصل هستند و در گذشته نیز اغلب از حفاظت‌های امنیتی محدودی برخوردار بوده‌اند.
آنتروپیک هشدار داد تکثیر غیرمتمرکز هوش مصنوعی می‌تواند چالش‌های امنیتی ایجاد کند، زیرا ممکن است دیگر یک سامانه واحد وجود نداشته باشد که مسئولان یا اپراتورها بتوانند آن را خاموش کنند. این شرکت خواستار تقویت حفاظت از دستگاه‌های متصل به اینترنت شد تا تکثیر خودکار دشوارتر شود.
یافته‌های این شرکت نشان می‌دهد با افزایش توانایی مدل‌های کوچک‌تر هوش مصنوعی، ایمن‌سازی تک‌تک دستگاه‌ها می‌تواند اهمیت بیشتری پیدا کند؛ زیرا این مدل‌ها به قابلیت‌هایی نزدیک می‌شوند که پیش‌تر تنها به زیرساخت‌های محاسباتی بزرگ‌تر نسبت داده می‌شد.
هشدار آنتروپیک درباره یک تهدید امنیتی احتمالی در آینده است، نه وجود یک شیوع واقعی از هوش مصنوعی خودتکثیرشونده در دستگاه‌های خانگی. با این حال، آزمایش‌های این شرکت نشان می‌دهد چرا بهبود امنیت اینترنت اشیا اهمیت دارد. اگر مدل‌های خودمختار در آینده بتوانند در دستگاه‌های آسیب‌دیده گسترش یابند، کنترل فعالیت آن‌ها ممکن است به‌مراتب دشوارتر از خاموش کردن یک سامانه متمرکز باشد.