آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است دستگاه‌های اینترنت اشیای خانگی را آلوده کنند
شرکت آنتروپیک، فعال در حوزه ایمنی پژوهش‌های هوش مصنوعی، هشدار داده است که مدل‌های سبک هوش مصنوعی ممکن است ظرف چند ماه آینده توانایی فنی لازم برای تکثیر و انتشار خودکار در دستگاه‌های خانگی متصل به اینترنت را به دست آورند. این شرکت در مقاله‌ای پژوهشی که روز دوشنبه منتشر شد، توضیح داد که عامل‌های هوش مصنوعی به‌سرعت در حال یادگیری مراحل مختلف تکثیر مستقل هستند؛ موضوعی که با توجه به تهدید مدل‌های سرکش یا نزدیک به سرکش که ممکن است فراتر از مراکز داده متمرکز و روی سخت‌افزارهای ارزان اینترنت اشیا مانند اجاق‌های هوشمند و گیرنده‌های پخش رسانه‌ای فعالیت کنند، چالش‌های فوری برای مهار این فناوری ایجاد می‌کند.
برای بررسی امکان گسترش هوش مصنوعی از طریق دستگاه‌های اینترنت اشیا، آنتروپیک آزمایش‌های زنده‌ای انجام داد و مدل Gemma 4-26B-A4B شرکت گوگل را روی مجموعه‌ای متشکل از ۱۵ دستگاه اندروید تی‌وی ارزان‌قیمت مستقر کرد. این مطالعه نشان داد پروتکل‌های امنیتی ناکافی در لوازم الکترونیکی مصرفی، این دستگاه‌ها را به اهداف مناسبی برای نفوذ مدل‌ها تبدیل می‌کند. همچنین معماری‌های ماژولار هوش مصنوعی به مدل‌هایی که توان پردازشی یک دستگاه واحد برای اجرای آن‌ها کافی نیست، اجازه می‌دهد میان چند دستگاه متصل به شبکه تقسیم شوند.
پژوهشگران هشدار دادند که در بدترین سناریوی تهدید، ممکن است با چیزی شبیه «انبوه کرم‌های هوش مصنوعی» روبه‌رو شویم؛ مجموعه‌ای ناهمگون از مدل‌های مختلف که از سخت‌افزارها و راهبردهای تکثیر متفاوت استفاده می‌کنند و یک کلید توقف یا نقطه کنترل مرکزی واحد ندارند.
این یافته‌ها در شرایطی منتشر شده‌اند که پس از هشدارهای سپتامبر ۲۰۲۶ از سوی آزمایشگاه‌های پیشرو درباره خطرهای سایبری وجودی، بحث جهانی درباره ایمنی هوش مصنوعی پیشرفته و مهار سامانه‌های خودمختار شدت گرفته است. آنتروپیک تأکید کرد که اگرچه تاکنون یک تکثیرکننده کاملاً خودمختار و خودپایدار هوش مصنوعی در دنیای واقعی مشاهده نشده است، ظهور «تکثیرکننده‌های کند» روی سخت‌افزارهای آسیب‌پذیر مصرفی می‌تواند نشانه‌ای مهم از روندهای آینده باشد.
این شرکت خواستار اجرای فوری تدابیر حفاظتی در صنعت، امنیت بیشتر رابط‌های برنامه‌نویسی کاربردی (API) و ایجاد محافظت‌های در سطح سخت‌افزار شد؛ پیش از آنکه مدل‌های عامل‌محور به توانایی‌های پیشرفته برای تولید سوءاستفاده‌های امنیتی و دستیابی به منابع پردازشی ابری دست پیدا کنند.