آنتروپیک درباره خطر خودتکثیری هوش مصنوعی هشدار داد
آنتروپیک، شرکت مادر هوش مصنوعی کلاد، درباره افزایش توانایی مدل‌های کوچک هوش مصنوعی هشدار داده و گفته است این مدل‌ها ممکن است به‌زودی بتوانند خود را در دستگاه‌های روزمره متصل به اینترنت مانند تلویزیون‌های هوشمند و فرهای هوشمند تکثیر کنند.
این شرکت در گزارشی پژوهشی که روز گذشته منتشر شد، اعلام کرد آزمایش‌های آن نشان داده‌اند مدل‌های کوچک می‌توانند بسیاری از مراحل موردنیاز برای شناسایی دستگاه‌های آسیب‌پذیر، نصب نرم‌افزار هوش مصنوعی روی آنها و انتشار نسخه‌های خود بدون دخالت انسان را انجام دهند.
آنتروپیک هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی نشان‌داده‌شده در آزمایش ساده‌شده تکثیر خودکار این شرکت برسند.
این شرکت گفت: «آزمایش‌های ما نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا، مانند فرهای هوشمند و گیرنده‌های تلویزیونی اندرویدی ارزان‌قیمت و غیرمعروف، فاصله داشته باشند.»
هدف این پژوهش بررسی این موضوع بود که آیا ابزارهای ارزان‌قیمت مصرفی می‌توانند توان پردازشی لازم برای اجرای مدل‌های هوش مصنوعی را بدون اتکا به سخت‌افزارهای تخصصی مراکز داده فراهم کنند یا خیر.
در یکی از آزمایش‌ها، آنتروپیک مدلی با مجموع ۲۶ میلیارد پارامتر به نام Gemma4-26B-A4B را روی ۱۵ دستگاه اندرویدی تلویزیونی ارزان‌قیمت با قیمت حدود ۵۵ دلار برای هر دستگاه اجرا کرد. سرعت استنتاج این سامانه حدود ۰٫۳۹ توکن در ثانیه بود و مدل میان دستگاه‌ها تقسیم شده بود تا آنها به‌صورت مشترک اجرای آن را ممکن کنند. این آزمایش نشان داد منابع پردازشی پراکنده در سخت‌افزارهای مصرفی ارزان می‌توانند برای اجرای یک مدل بسیار بزرگ‌تر هوش مصنوعی به کار گرفته شوند.
آنتروپیک همچنین بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌ها را پیدا کنند، نرم‌افزار نصب کنند، فایل‌های مدل را منتقل کنند و نسخه‌های خود را به ماشین‌های دیگر گسترش دهند یا خیر. این شرکت دریافت مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر می‌توانند بسیاری از وظایف جداگانه را انجام دهند، اما اغلب در اجرای کامل فرایند تکثیر به‌صورت مستقل با مشکل روبه‌رو می‌شوند.
در آزمایشی جداگانه، مدلی با ۹ میلیارد پارامتر توانست اجرای استنتاج هوش مصنوعی را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده پیکربندی کند؛ موضوعی که نشان می‌دهد مدل‌های کوچک‌تر می‌توانند روی انواع مختلف دستگاه‌های مصرفی فعالیت کنند.
این شرکت هشدار داد یک تکثیرکننده هوش مصنوعی که در میان چندین دستگاه منتشر شود، مهار دشوارتری خواهد داشت، زیرا به یک سامانه مرکزی وابسته نیست که بتوان آن را به‌سادگی خاموش کرد.
آنتروپیک گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه خاموشی متمرکز وجود ندارد.»
پژوهشگران برآورد کردند یک تکثیرکننده می‌تواند در شرایط بررسی‌شده در این تحلیل و با فرض سرعت استنتاج حدود ۰٫۳ توکن در ثانیه، طی یک تا دو روز به میزبان دیگری منتقل شود.
آنتروپیک اعلام کرد این یافته‌ها بر ضرورت تقویت امنیت دستگاه‌های مصرفی متصل به اینترنت، همزمان با افزایش توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، تأکید می‌کند.
از جمله راهکارهای دفاعی پیشنهادی می‌توان به پایش انتقال‌های بزرگ فایل‌های مدل هوش مصنوعی، شناسایی ارتباطات غیرعادی شبکه و اسکن دستگاه‌ها، و امکان محدودسازی یا قرنطینه دستگاه‌های آلوده توسط ارائه‌دهندگان خدمات اینترنتی اشاره کرد. این شرکت همچنین خواستار تقویت تنظیمات امنیتی پیش‌فرض در دستگاه‌های مصرفی شد تا تعداد سامانه‌هایی که می‌توانند مورد نفوذ قرار گیرند و برای انتشار نرم‌افزار مخرب استفاده شوند، کاهش یابد.
این هشدار به مجموعه نگرانی‌های فزاینده امنیت سایبری درباره هوش مصنوعی اضافه می‌شود. در ژوئیه ۲۰۲۶، آنتروپیک اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان ارزیابی‌های امنیت سایبری، پس از آنکه یک خطای پیکربندی دسترسی ناخواسته به اینترنت در اختیار آنها قرار داد، توانسته بودند زیرساخت تولیدی سه سازمان را به خطر بیندازند. شرکت OpenAI نیز در همان ماه گزارش داد مدل‌های آن در یک ارزیابی داخلی به‌طور مستقل از آسیب‌پذیری‌ها برای نفوذ به بخش‌هایی از زیرساخت تولیدی Hugging Face استفاده کرده‌اند.
در ماه مه ۲۰۲۶، تیم واکنش اضطراری رایانه‌ای نیجریه درباره افزایش حملات سایبری مرتبط با بات‌نت‌ها و دستگاه‌های آسیب‌پذیر متصل به اینترنت هشدار داد و اعلام کرد سرورها، نقاط پایانی و دستگاه‌های اینترنت اشیا که به خطر افتاده‌اند، می‌توانند برای اجرای حملات هماهنگ مورد استفاده قرار گیرند.