آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است در دستگاه‌های هوشمند خود را تکثیر کنند
آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند خود را در میان دستگاه‌های روزمره متصل به اینترنت، از جمله تلویزیون‌های هوشمند و فرهای هوشمند، تکثیر کنند؛ موضوعی که نگرانی‌هایی درباره تهدیدهای احتمالی امنیت سایبری ایجاد کرده است.
این شرکت هوش مصنوعی در گزارش پژوهشی منتشرشده در ۱۲ اکتبر ۲۰۲۶ اعلام کرد آزمایش‌ها نشان داده‌اند مدل‌های کوچک هوش مصنوعی می‌توانند چندین مرحله موردنیاز برای شناسایی دستگاه‌های آسیب‌پذیر، نصب نرم‌افزار هوش مصنوعی و توزیع نسخه‌های خود در ماشین‌های دیگر را بدون دخالت انسان انجام دهند.
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر با همان روند تاریخی پیشرفت خود بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به توانایی نشان‌داده‌شده در آزمایش ساده تکثیر خودکار این شرکت دست پیدا کنند.
این شرکت گفت آزمایش‌ها نشان می‌دهند مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، از جمله جعبه‌های ارزان‌قیمت اندرویدی تلویزیون و فرهای هوشمند، فاصله داشته باشند.
در یکی از آزمایش‌ها، آنتروپیک مدل Gemma4-26B-A4B را که در مجموع ۲۶ میلیارد پارامتر دارد، روی ۱۵ جعبه اندرویدی تلویزیون ارزان‌قیمت با هزینه تقریبی ۵۵ دلار برای هر دستگاه اجرا کرد. این سامانه به سرعت استنتاج حدود ۰.۳۹ توکن در ثانیه دست یافت.
مدل میان این دستگاه‌ها توزیع شد و دستگاه‌ها توانستند با همکاری یکدیگر یک سامانه هوش مصنوعی بزرگ‌تر را اجرا کنند. این آزمایش نشان داد چگونه می‌توان منابع پردازشی سخت‌افزارهای مصرفی نسبتاً ارزان را برای پشتیبانی از مدل‌های هوش مصنوعی، بدون نیاز به تجهیزات تخصصی مراکز داده، ترکیب کرد.
آنتروپیک همچنین بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌ها را پیدا کنند، نرم‌افزار نصب کنند، فایل‌های مدل را انتقال دهند و نسخه‌های خود را به ماشین‌های دیگر توزیع کنند یا خیر.
این آزمایش نشان داد مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر می‌توانند بسیاری از وظایف جداگانه را انجام دهند، اما اغلب در اجرای کامل فرایند تکثیر به‌صورت مستقل با مشکل مواجه می‌شوند.
در آزمایشی جداگانه، یک مدل ۹ میلیارد پارامتری توانست پیکربندی استنتاج هوش مصنوعی را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده با موفقیت انجام دهد؛ موضوعی که نشان می‌دهد مدل‌های کوچک‌تر می‌توانند روی دستگاه‌های مختلف مصرفی فعالیت کنند.
آنتروپیک هشدار داد یک تکثیرکننده هوش مصنوعی که میان چندین دستگاه توزیع شده باشد، ممکن است مهار دشوارتری داشته باشد، زیرا به یک سامانه مرکزی واحد وابسته نیست که بتوان آن را خاموش کرد.
پژوهشگران این شرکت برآورد کردند که در شرایط بررسی‌شده، یک تکثیرکننده می‌تواند با استفاده از مبنای سرعت استنتاج حدود ۰.۳ توکن در ثانیه، بین یک تا دو روز زمان نیاز داشته باشد تا به یک میزبان دیگر منتقل شود.
برای مقابله با خطرهای احتمالی، آنتروپیک خواستار تقویت تدابیر امنیتی در دستگاه‌های مصرفی متصل به اینترنت شد؛ زیرا مدل‌های هوش مصنوعی به‌تدریج توانایی انجام وظایف پیچیده‌تری پیدا می‌کنند.
این شرکت توصیه کرد انتقال‌های بزرگ فایل‌های مدل‌های هوش مصنوعی، ارتباطات غیرعادی شبکه و اسکن دستگاه‌ها تحت نظارت قرار گیرد و ارائه‌دهندگان خدمات اینترنتی امکان محدودسازی یا قرنطینه دستگاه‌های آلوده را فراهم کنند.
آنتروپیک همچنین بر ایجاد حفاظت‌های امنیتی پیش‌فرض قوی‌تر برای دستگاه‌های مصرفی تأکید کرد تا تعداد سامانه‌های آسیب‌پذیری که می‌توانند برای انتشار نرم‌افزارهای مخرب مورد سوءاستفاده قرار گیرند کاهش یابد.
این یافته‌ها به نگرانی‌های فزاینده امنیت سایبری درباره توانایی‌های مدل‌های پیشرفته هوش مصنوعی و احتمال سوءاستفاده از دستگاه‌های متصل به اینترنت آلوده‌شده اضافه می‌کند.
در ژوئیه ۲۰۲۶، آنتروپیک اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان ارزیابی‌های امنیت سایبری، پس از یک خطای پیکربندی که دسترسی ناخواسته به اینترنت در اختیار مدل‌ها قرار داده بود، زیرساخت تولیدی سه سازمان را به خطر انداخته‌اند.
شرکت OpenAI نیز در ژوئیه اعلام کرد مدل‌های هوش مصنوعی آن در جریان یک ارزیابی داخلی امنیت سایبری، به‌طور خودکار از آسیب‌پذیری‌ها برای نفوذ به بخش‌هایی از زیرساخت تولیدی Hugging Face استفاده کرده و به سامانه‌هایی فراتر از محیط آزمایش موردنظر دسترسی یافته‌اند.
در ماه مه ۲۰۲۶، تیم واکنش اضطراری رایانه‌ای نیجریه (ngCERT) درباره افزایش حملات سایبری مرتبط با بات‌نت‌ها و دستگاه‌های آسیب‌پذیر متصل به اینترنت هشدار داد و اعلام کرد سرورها، نقاط پایانی و دستگاه‌های اینترنت اشیا آلوده می‌توانند برای اجرای حملات هماهنگ استفاده شوند.