آنتروپیک هشدار داد: کرم‌های هوش مصنوعی ممکن است در میان دستگاه‌های هوشمند گسترش یابند
شرکت آنتروپیک هشدار داده است که پیشرفت هوش مصنوعی ممکن است ساخت بدافزارهای خودتکثیرشونده را عملی‌تر کند. چنین بدافزارهایی بالقوه می‌توانند میان دستگاه‌های متصل به اینترنت، از جمله تلویزیون‌های هوشمند، دوربین‌ها و لوازم خانگی، گسترش یابند.
این هشدار پس از آزمایش‌های تیم قرمز مرزی آنتروپیک مطرح شده است؛ تیمی که بررسی می‌کند چگونه ممکن است از سامانه‌های پیشرفته هوش مصنوعی سوءاستفاده شود. پژوهشگران در گزارشی که ۱۲ اکتبر منتشر شد، بررسی کردند که آیا مدل‌های هوش مصنوعی می‌توانند به ساخت نوع جدیدی از کرم رایانه‌ای کمک کنند؛ بدافزاری که میان دستگاه‌ها جابه‌جا می‌شود، خود را با سخت‌افزارهای مختلف سازگار می‌کند و بدون اتکا به یک مرکز داده متمرکز اجرا می‌شود.
این پژوهش نشان نمی‌دهد که یک مدل کوچک هوش مصنوعی در حال حاضر قادر است تمام این مراحل را در دنیای واقعی و به‌طور قابل‌اعتماد انجام دهد. در عوض، قابلیت‌های فنی‌ای را شناسایی می‌کند که با پیشرفت مدل‌ها می‌توانند چنین تهدیدی را به واقعیت نزدیک‌تر کنند.
چه چیزی کرم هوش مصنوعی را متفاوت می‌کند؟
کرم‌های رایانه‌ای سنتی با سوءاستفاده از ضعف‌های امنیتی گسترش می‌یابند و اغلب کد مخرب را از یک دستگاه آسیب‌پذیر به دستگاه دیگر کپی می‌کنند. کرم مجهز به هوش مصنوعی می‌تواند یک لایه دیگر به این فرایند بیفزاید: استفاده از یک مدل برای تحلیل سامانه‌های ناآشنا، تطبیق روش حمله و کمک به آماده‌سازی نرم‌افزار برای سخت‌افزارهای مختلف.
آنتروپیک یکی از طرح‌های احتمالی را «تکثیرگر مبتنی بر وزن‌های مدل» می‌نامد. چنین سامانه‌ای به‌جای اتکای صرف به کدهای متداول بدافزار، می‌تواند وزن‌های یک مدل هوش مصنوعی را همراه خود داشته باشد یا آن‌ها را دریافت کند و نرم‌افزار موردنیاز برای اجرای مدل را روی دستگاه آلوده مستقر سازد.
این انعطاف‌پذیری می‌تواند حملات را سازگارپذیرتر کند. برای مثال، سامانه‌ای که با دستگاهی ناآشنا روبه‌رو می‌شود، ممکن است تلاش کند راهی برای اجرای نرم‌افزار سازگار با آن پیدا کند، به‌جای آنکه کاملاً به مجموعه‌ای ثابت از دستورالعمل‌های نوشته‌شده برای یک پلتفرم خاص متکی باشد.
این نگرانی به‌ویژه درباره دستگاه‌های متصل به اینترنت اهمیت دارد؛ زیرا بسیاری از آن‌ها در مقایسه با رایانه‌ها و تلفن‌های هوشمند، به‌روزرسانی‌های امنیتی را با فاصله زمانی بیشتری دریافت می‌کنند. دستگاه‌هایی که همچنان دارای آسیب‌پذیری‌های شناخته‌شده‌اند، می‌توانند فرصت‌هایی برای گسترش بدافزار فراهم کنند.
آزمایش‌های آنتروپیک در عمل چه چیزی را نشان دادند؟
آنتروپیک آزمایش کرد که آیا مدل‌های هوش مصنوعی می‌توانند محیط‌های اجرای استنتاج را روی پلتفرم‌های سخت‌افزاری مختلف پیکربندی کنند و فرایند تکثیر را در یک شبکه هماهنگ سازند یا خیر.
در یکی از آزمایش‌ها، پژوهشگران از یک مدل بزرگ برای هدایت فرایند تکثیر ساده‌شده میان هشت شبیه‌ساز اندروید میزبانی‌شده در فضای ابری استفاده کردند. این آزمایش بر رابط Android Debug Bridge متکی بود که دسترسی به آن در معرض استفاده قرار داشت؛ بنابراین، آزمایش مزبور حمله‌ای موفق به طیف نماینده‌ای از دستگاه‌های مصرفی ایمن‌سازی‌شده را نشان نمی‌داد.
در آزمایش‌های جداگانه، این موضوع بررسی شد که آیا مدل‌های کوچک‌تر می‌توانند محیط‌های اجرای استنتاج را روی سخت‌افزارهای مختلف راه‌اندازی کنند. پژوهشگران دریافتند که مدل‌ها قادرند مراحل منفرد را انجام دهند، اما مدل‌های کوچک‌تر همچنان در اجرای مطمئن کل فرایند تکثیر، از ابتدا تا انتها، مشکل دارند.
این محدودیت اهمیت زیادی دارد. راه‌اندازی یک مدل هوش مصنوعی روی دستگاه، یافتن هدفی آسیب‌پذیر، دستیابی به آن، پیکربندی نرم‌افزار و گسترش موفق به دستگاهی دیگر، هرکدام چالش فنی جداگانه‌ای هستند. نشان دادن موفقیت در برخی از این مراحل به معنای آن نیست که یک کرم هوش مصنوعی خودمختار و خودگستر آماده استقرار گسترده است.
چرا مهار این تهدید ممکن است دشوارتر شود؟
آنتروپیک معتقد است پیشرفت مدل‌های کوچک‌تر هوش مصنوعی می‌تواند فاصله میان قابلیت‌های آزمایشی امروز و حملات عملی‌تر را کاهش دهد. پژوهشگران این شرکت مطرح کرده‌اند که اگر روند پیشرفت گذشته ادامه یابد، مدل‌هایی با حدود ۳۰ میلیارد پارامتر یا کمتر ممکن است تا پایان سال ۲۰۲۶ به سطح قابلیت‌های لازم برسند. این پیش‌بینی برآوردی از آینده است، نه ضرب‌الاجلی قطعی و تأییدشده.
همچنین، مهار کرمی که با موفقیت میان تعداد زیادی دستگاه مستقل گسترش یابد، ممکن است دشوارتر از مقابله با بدافزاری باشد که به یک سرور مرکزی وابسته است. در چنین شرایطی، تیم‌های امنیتی احتمالاً باید آلودگی‌ها را در شبکه‌ها و پلتفرم‌های سخت‌افزاری مختلف شناسایی و پاک‌سازی کنند، نه اینکه تنها یک نقطه کنترل مرکزی را از کار بیندازند.
بااین‌حال، موانع عملی همچنان قابل‌توجه‌اند. اجرای مدل‌های هوش مصنوعی روی دستگاه‌های ارزان‌قیمت می‌تواند کند باشد، انتقال وزن‌های مدل پهنای باند مصرف می‌کند و این فرایند ممکن است فعالیت‌هایی ایجاد کند که سامانه‌های نظارت امنیتی قادر به شناسایی آن‌ها باشند. پژوهشگران و کارشناسان مستقل نیز درباره سرعت تبدیل شدن این سناریوها به تهدیدهایی واقع‌بینانه اتفاق‌نظر ندارند.
کاربران و تولیدکنندگان چه اقداماتی باید انجام دهند؟
واکنش فوری به این هشدار به معنای آن نیست که باید هر وسیله هوشمندی را تهدیدی قریب‌الوقوع از سوی هوش مصنوعی تلقی کرد. اقدامات امنیتی شناخته‌شده همچنان اهمیت دارند: میان‌افزار دستگاه‌ها را به‌روزرسانی کنید، دستگاه‌هایی را که دیگر وصله‌های امنیتی دریافت نمی‌کنند کنار بگذارید، گذرواژه‌های پیش‌فرض را تغییر دهید و قابلیت‌های دسترسی از راه دور را که به آن‌ها نیازی ندارید غیرفعال کنید.
تولیدکنندگان نیز باید دوره پشتیبانی امنیتی طولانی‌تری ارائه دهند، دسترسی غیرضروری دستگاه‌ها به شبکه را کاهش دهند و به‌روزرسانی آن‌ها را آسان‌تر کنند. در کسب‌وکارها، تفکیک شبکه و نظارت بر ترافیک می‌تواند در صورت به‌خطر افتادن امنیت یک دستگاه متصل، به محدود کردن خسارت کمک کند.
جمع‌بندی
پژوهش آنتروپیک یکی از حوزه‌های معتبر و نوظهور خطر در امنیت سایبری را برجسته می‌کند: هوش مصنوعی ممکن است بدافزارها را سازگارپذیرتر کند و انجام خودکار وظایف لازم برای تکثیر آن‌ها را امکان‌پذیر سازد. بااین‌حال، آزمایش‌ها ثابت نکرده‌اند که مدل‌های کوچک در حال حاضر می‌توانند به‌سرعت و به‌طور مستقل میان دستگاه‌های مصرفی معمولی که به‌درستی ایمن‌سازی شده‌اند، گسترش یابند. اولویت باید تقویت امنیت دستگاه‌ها از همین حالا و ادامه آزمایش این قابلیت‌ها باشد تا خطرهای اثبات‌شده از پیش‌بینی‌های بدبینانه درباره بدترین سناریوها تفکیک شوند.