بدافزار در افق: آنتروپیک نشان می‌دهد مدل‌های هوش مصنوعی چگونه ممکن است روزی مانند ویروس‌های رایانه‌ای منتشر شوند

شرکت آنتروپیک به‌تازگی نشان داده است که از نظر نظری، یک مدل هوش مصنوعی می‌تواند به چیزی شبیه ویروس رایانه‌ای تبدیل شود. در نگاه اول، چنین چیزی نباید امکان‌پذیر باشد؛ زیرا ویروس‌های رایانه‌ای برنامه‌هایی بسیار کوچک‌اند، در حالی که مدل‌های هوش مصنوعی به حافظه بسیار زیادی نیاز دارند. با این حال، تیم قرمز امنیت سامانه‌های پیشرفته آنتروپیک در مطلبی وبلاگی که ۱۲ اکتبر منتشر کرد، توضیح داد که چگونه این کار را انجام داده است.

پژوهشگران ابتدا یک مدل کوچک را به بخش‌های مختلف تقسیم کردند و این بخش‌ها را روی ۱۵ دستگاه اندرویدی مخصوص تلویزیون میزبانی کردند تا بر مانع حجم زیاد مدل غلبه کنند. در آزمایشی دیگر، مدل‌های هوش مصنوعی را روی ۹ رایانه با سیستم‌های متفاوتی اجرا کردند که مدل‌ها با آن‌ها آشنایی نداشتند. مدل‌ها توانستند روی هشت دستگاه از این ۹ رایانه کار کنند.

پژوهشگران همچنین بررسی کردند که آیا مدل‌ها می‌توانند به سیستم‌های دیگر منتقل شوند و خود را روی آن‌ها راه‌اندازی کنند؛ قابلیتی که از ویژگی‌های ویروس‌های رایانه‌ای به شمار می‌رود. برای این آزمایش، شرایط عمداً آسان در نظر گرفته شده بود و هیچ گذرواژه یا مانع امنیتی وجود نداشت. یکی از مدل‌ها تقریباً در هر بار آزمایش توانست این کار را انجام دهد. کنار هم قرار گرفتن همه این قابلیت‌ها می‌تواند زمینه ایجاد یک ویروس را فراهم کند.

اگر مدل‌های هوش مصنوعی بتوانند مانند ویروس‌های رایانه‌ای رفتار کنند، افراد خرابکار یا حتی عامل‌های هوش مصنوعی سرکش ممکن است از آن‌ها برای در اختیار گرفتن سامانه‌ها استفاده کنند. این آزمایش‌ها در محیطی کنترل‌شده انجام شده‌اند، اما مدل‌های کوچک‌تر روزبه‌روز هوشمندتر می‌شوند و ممکن است در آینده ناچار شویم چنین تهدیدهایی را در ارزیابی خطرات دنیای واقعی جدی بگیریم.