آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی در دستگاه‌های هوشمند خانگی خود را تکثیر کنند

واشنگتن — آنتروپیک روز دوشنبه هشدار تازه‌ای درباره توانایی مدل‌های کوچک هوش مصنوعی برای تکثیر خود در دستگاه‌هایی مانند فرهای هوشمند، تلویزیون‌ها و دیگر تجهیزات خانگی متصل به اینترنت منتشر کرد.

سازنده چت‌بات Claude اعلام کرد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند که بتوانند روی «دستگاه‌های تجاری اینترنت اشیا (IoT) مانند فرهای هوشمند، یخچال‌ها، جاروبرقی‌های رباتیک، ماشین‌های چمن‌زن و گیرنده‌های اندرویدی تلویزیون ساخت شرکت‌های کمتر شناخته‌شده» خود را تکثیر کنند.

آنتروپیک گفت یک تکثیرکننده مبتنی بر وزن مدل یا همان «کرم» هوش مصنوعی، در صورت ایجاد، می‌تواند به‌سختی متوقف شود؛ زیرا نقطه خاموش‌کردن متمرکزی برای آن وجود نخواهد داشت.

این شرکت افزود دوربین‌های امنیتی و تجهیزات ویدئوکنفرانس نیز ممکن است در معرض خطر قرار گیرند، زیرا این دستگاه‌ها از تراشه‌های هوش مصنوعی داخلی استفاده می‌کنند.

تیم «قرمز مرزی» آنتروپیک (Frontier Red Team)، گروهی تخصصی که مسائل احتمالی امنیتی و هم‌راستایی مدل‌ها را بررسی می‌کند، آزمایش کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، توانایی اجرای کد به دست آورند، خود را در این دستگاه‌ها «کپی» کنند و با تکثیر خود به انتشار ادامه دهند یا نه.

بر اساس توضیح شرکت امنیت سایبری Palo Alto Networks، این «کرم‌های هوش مصنوعی» نوعی بدافزار هستند که از هوش مصنوعی برای افزایش کارایی، گسترش سریع‌تر، فرار از شناسایی و تکثیر و انتشار در شبکه‌ها و دستگاه‌ها استفاده می‌کنند.

تیم آنتروپیک اعلام کرد دستگاه‌های خانگی و کسب‌وکارهای کوچک ممکن است نخستین اهداف چنین حملات «کرم هوش مصنوعی» باشند، زیرا این تجهیزات به اینترنت متصل هستند و در گذشته معمولاً از تدابیر امنیتی محدودی برخوردار بوده‌اند.

در آزمایش‌های این شرکت، یک مدل هوش مصنوعی در یک سناریوی شبیه‌سازی‌شده حدود یک تا دو روز زمان نیاز داشت تا در تنظیمات مربوط به جعبه تلویزیون تکثیر شود، در حالی که یک مدل دیگر که بهینه‌سازی نشده بود، حدود ۷۱ تا ۱۵۰ ساعت زمان برد.

تیم قرمز آنتروپیک گفت تولیدکنندگان می‌توانند با مقرراتی مانند جلوگیری از استفاده از گذرواژه‌های پیش‌فرض نامناسب در دستگاه‌های اینترنت اشیا، تعداد اهداف احتمالی را کاهش دهند. بریتانیا قانونی تصویب کرده است که استفاده از چنین دستگاه‌هایی را در صورت رعایت نکردن این الزامات ممنوع می‌کند.

آنتروپیک گفت: «حرکت به سمت تنظیمات پیش‌فرض امن‌تر و افزایش سطح پایه الزامات انطباق، به مقاوم‌سازی سیستم‌ها در برابر هم ربات‌های خودکار مبتنی بر هوش مصنوعی و هم بات‌نت‌های برنامه‌ریزی‌شده کمک خواهد کرد.»

تیم این شرکت اعلام کرد مدل‌های کوچک ممکن است تا پایان سال بتوانند به‌صورت خودکار خود را تکثیر کنند و پس از آن، تکثیرهای کوچک مبتنی بر وزن مدل نیز به‌زودی دنبال شوند.

آنتروپیک گفت: «به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های ما، انتظار داریم آینده‌ای را شاهد باشیم که در آن عامل‌های هوشمند روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»

این شرکت روز دوشنبه افزود: «اگرچه دستگاه‌های اینترنت اشیا مدت‌هاست آسیب‌پذیر بوده‌اند، عامل‌های سبک‌وزن ممکن است نسبت به مهاجمان انسانی تمایل بیشتری داشته باشند تا برای به خطر انداختن بخش بزرگی از توان پردازشی اینترنت اشیا در جهان تلاش کنند. باید سیستم‌های خود را به‌گونه‌ای مقاوم کنیم که انتشار چنین تکثیرکنندگانی دشوار شود، اما در عین حال برای جهانی آماده باشیم که در آن این عوامل حضور دائمی خواهند داشت.»