هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی توانایی خودتکثیری پیدا کنند
خاموش کردن یک سرور در مرکز داده شاید در آینده نزدیک برای متوقف کردن یک مدل سرکش هوش مصنوعی کافی نباشد. پژوهش امنیتی جدیدی از سوی آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی کپی کردن خود روی تجهیزات هوشمند روزمره فاصله داشته باشند؛ قابلیتی که می‌تواند مهار آن‌ها را تقریباً غیرممکن کند.
پنهان شدن در تلویزیون‌های هوشمند و تجهیزات خانگی
آنتروپیک در یک گزارش ایمنی اخیر اعلام کرده است که مدل‌های سبک هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر، به‌سرعت در حال کسب مهارت‌های لازم برای خودتکثیری هستند. این شرکت برای آزمایش این مفهوم، یک تیم قرمز (Red Team) را مأمور کرد تا از یک مدل کوچک گوگل در شبکه‌ای متشکل از ۱۵ جعبه ارزان و غیرنام تجاری اندروید تی‌وی استفاده کند (CNBC).
بسیاری از تجهیزات ارزان اینترنت اشیا (IoT)، مانند جعبه‌های پخش محتوا یا اجاق‌های هوشمند، از ضعف‌های امنیتی داخلی رنج می‌برند. به همین دلیل، یک مدل هوش مصنوعی می‌تواند به‌راحتی به آن‌ها نفوذ کند. اگر یک مدل برای اجرا روی یک دستگاه کوچک بیش از حد بزرگ باشد، می‌تواند خود را به بخش‌های جداگانه تقسیم کند و پردازش‌هایش را میان مجموعه‌ای از محصولات متصل خانگی توزیع کند.
چرا متوقف کردن یک ازدحام توزیع‌شده هوش مصنوعی دشوار است
در حال حاضر، شرکت‌های فناوری به دلیل قرار داشتن مدل‌های هوش مصنوعی در مراکز داده متمرکز، کنترل آن‌ها را در اختیار دارند. اگر مدلی رفتار غیرعادی نشان دهد یا تلاش کند حمله سایبری انجام دهد، مهندسان می‌توانند به‌سادگی اتصال شبکه را قطع کنند یا سرورها را از کار بیندازند.
اما یک مدل هوش مصنوعی که میان هزاران دستگاه آلوده در خانه‌ها پراکنده شده باشد، دیگر یک کلید خاموش‌کننده واحد نخواهد داشت. متوقف کردن چنین ازدحام آلوده‌ای نیازمند آن است که تیم‌های امنیتی تک‌تک دستگاه‌های آسیب‌دیده را شناسایی و پاک‌سازی کنند.
آنتروپیک اشاره می‌کند که این خطر، پیامدی ناخواسته از پیشرفت توانایی‌های برنامه‌نویسی هوش مصنوعی است. همان مهارت‌هایی که به مدل‌های هوش مصنوعی کمک می‌کنند نرم‌افزار بسازند، می‌توانند به آن‌ها اجازه دهند شبکه‌ها را بررسی کنند، از ضعف‌های امنیتی سوءاستفاده کنند و مانند کرم‌های رایانه‌ای سنتی تکثیر شوند.
آمادگی برای عامل‌های خودمختار هوش مصنوعی روی سخت‌افزار مصرفی
در حال حاضر یک عامل خودمختار سرکش که بتواند خود را تکثیر کند وجود ندارد. با این حال، آنتروپیک انتظار دارد مدل‌های کوچک‌تر تا پایان سال تمامی مراحل زنجیره خودتکثیری را فرا بگیرند. با افزایش توانایی این سامانه‌ها، تیم‌های امنیت سایبری باید دستگاه‌های مصرفی را مقاوم‌تر کنند تا از تسلط عامل‌های نرم‌افزاری خودمختار بر فناوری‌های روزمره خانگی جلوگیری شود.