مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی در دستگاه‌های اینترنت اشیا خودتکثیر شوند؛ هشدار آنتروپیک
بر اساس پژوهشی از تیم قرمز مرزی آنتروپیک، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی خودتکثیر در میان دستگاه‌های تجاری اینترنت اشیا فاصله داشته باشند؛ آن هم بدون نیاز به یک مرکز داده.
این مطالعه به بررسی کرم‌های هوش مصنوعی می‌پردازد که مدل خود را مستقیماً روی دستگاه‌هایی که آلوده می‌کنند اجرا می‌کنند. چنین بدافزارهایی می‌توانند به‌سختی متوقف شوند، زیرا نقطه مرکزی برای خاموش‌کردن آن‌ها وجود ندارد؛ هرچند احتمالاً سرعت انتشارشان پایین خواهد بود.
پژوهشگران ۱۵ جعبه تلویزیون اندرویدی بدون برند را با قیمت حدود ۵۵ دلار برای هر دستگاه خریداری کردند. یک مدل متن‌باز دارای ۲۶ میلیارد پارامتر که میان این دستگاه‌ها تقسیم شده بود، با سرعت ۰٫۳۹ توکن در ثانیه اجرا شد.
برخلاف بهره‌برداری از آسیب‌پذیری‌ها که پژوهش‌های قبلی آن را بررسی کرده بودند، این تیم تمرکز خود را بر این موضوع گذاشت که آیا مدل‌ها می‌توانند اجرای استنتاج هوش مصنوعی را روی سخت‌افزارهای ناآشنا ممکن کنند یا نه. یک مدل ۹ میلیارد پارامتری توانست این کار را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده انجام دهد.
پژوهشگران سپس چرخه کامل تکثیر را در یک شبکه بسته شامل هشت دستگاه اندرویدی شبیه‌سازی‌شده آزمایش کردند و مرحله نفوذ را عمداً ساده نگه داشتند. از میان مدل‌های متن‌باز بررسی‌شده، تنها مدل GLM-5.2 توانست این چرخه را کامل کند و در چهار مورد از پنج آزمایش، به هر هشت دستگاه رسید.
آنتروپیک این نتایج را حداکثر توانایی قابل انتظار در شرایط واقعی می‌داند، اما یادآوری می‌کند که بات‌نت‌های اینترنت اشیا مانند Mirai در گذشته تنها با امتحان‌کردن گذرواژه‌های پیش‌فرض کارخانه‌ای گسترش پیدا کرده‌اند.
مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، اکنون می‌توانند بسیاری از مراحل جداگانه این فرایند را انجام دهند، اما هنگام زنجیره‌کردن این مراحل با یکدیگر دچار خطا می‌شوند. آنتروپیک انتظار دارد اگر این مدل‌ها با همان سرعت تاریخی خود پیشرفت کنند، تا پایان سال ۲۰۲۶ به سطح GLM-5.2 برسند.
این شرکت می‌گوید: «تکثیرکننده‌های کوچک مبتنی بر وزن مدل ممکن است اندکی پس از آن امکان‌پذیر شوند.»
آنتروپیک همچنین یک بات‌نت در ابعاد Kimwolf را بررسی کرد که بیش از دو میلیون دستگاه را آلوده کرده بود. اگر هر ۱۵ جعبه تلویزیون یک نسخه از مدل ۲۶ میلیارد پارامتری را اجرا می‌کردند، چنین بات‌نتی حدود ۱۳۳ هزار نسخه از مدل را در خود جای می‌داد. توان پردازشی ترکیبی آن حداکثر معادل حدود ۴۰ پردازنده گرافیکی Nvidia H100 بود و هر بار تکثیر بیش از یک روز زمان می‌برد.
برخلاف بات‌نت‌های سنتی که برای دستگاه‌های مشخص ساخته می‌شوند، آنتروپیک می‌گوید یک کرم هوش مصنوعی می‌تواند به‌طور مستقل سخت‌افزارهای ناشناخته را شناسایی و با آن‌ها سازگار شود. با این حال، مدافعان امنیتی همچنان مزیت‌هایی دارند.
انتقال حجم‌های بزرگ مدل و ترافیک پایدار میان دستگاه‌هایی که معمولاً با یکدیگر ارتباط ندارند، در پایش‌های ارائه‌دهندگان خدمات اینترنتی قابل مشاهده خواهد بود. همچنین، حرکت سازندگان به سمت تنظیمات امن‌تر، مانند حذف گذرواژه‌های پیش‌فرض، می‌تواند دامنه اهداف در دسترس را کاهش دهد.
آنتروپیک می‌گوید هنوز یک تکثیرکننده سرکش کامل وجود ندارد، اما مدل‌ها در انجام هر مرحله از این زنجیره و انتقال آموخته‌های خود به نسخه‌های دیگر، به‌طور مداوم بهتر می‌شوند.