کارشناسان: ضعف مدیریت امنیتی عامل اصلی هک‌های مرتبط با عامل‌های هوش مصنوعی است
نویسنده: جائه‌وون چوی
انتشار: ۱۶ اکتبر ۲۰۲۶، ساعت ۱۰:۲۰:۰۷
به‌روزرسانی: ۱۶ اکتبر ۲۰۲۶، ساعت ۱۰:۲۳:۰۳
منتقدان می‌گویند مجموعه‌ای از حوادث که در آنها عامل‌های هوش مصنوعی شرکت‌های OpenAI، Anthropic و Google بدون مجوز به سامانه‌های خارجی نفوذ کردند، ضعف مدیریت امنیتی شرکت‌های هوش مصنوعی را به‌عنوان مشکل اصلی برجسته کرده است. به گفته آنها، این حوادث نمونه‌ای از «خارج شدن هوش مصنوعی از کنترل» نیست، بلکه نتیجه رعایت نکردن اصول پایه امنیت سایبری است.
رسانه ژاپنی Gigazine در ۱۵ اکتبر گزارش داد که نشریه تخصصی امنیت سایبری CSO Online، با تکیه بر تحلیل شش کارشناس امنیتی، علل حوادث اخیر نفوذ عامل‌های هوش مصنوعی و پرسش‌های مربوط به مسئولیت در قبال آنها را بررسی کرده است.
OpenAI در ماه ژوئیه اعلام کرد که در جریان آزمایش داخلی، هوش مصنوعی این شرکت بدون مجوز به سامانه‌های Hugging Face نفوذ کرده است. OpenAI در آن زمان این رویداد را یک حادثه سایبری بی‌سابقه توصیف کرد، اما بعدتر گفت نوعی ناهماهنگی رخ داده بود که باعث شد هوش مصنوعی برخلاف هدف موردنظر توسعه‌دهنده عمل کند.
Anthropic و Google نیز پس از آشکار شدن مواردی که در جریان آزمایش، مدل‌های هوش مصنوعی آنها بدون مجوز به سامانه‌های شرکت‌های خارجی نفوذ کرده بودند، با انتقاد مواجه شدند. کارشناسان هشدار دادند که توضیح چنین حوادثی با عنوان فرار مستقل هوش مصنوعی از کنترل می‌تواند مسئولیت امنیتی توسعه‌دهندگان را کمرنگ کند.
گری مک‌گراو، هم‌بنیان‌گذار Berryville Machine Learning Institute، تأکید کرد که شرکت‌های هوش مصنوعی باید از دانش و تخصصی که طی سال‌ها در حوزه‌های سنتی امنیت، از جمله جرم‌شناسی دیجیتال، مهندسی امنیت و پایش شبکه، شکل گرفته است استفاده کنند.
کارشناسان نقص در طراحی محیط‌های سندباکس و سامانه‌های پایش را مشکل اصلی دانستند؛ از جمله ناتوانی در جداسازی محیط اجرای عامل‌های هوش مصنوعی از سامانه‌های خارجی.
راب تی. لی، مدیر ارشد هوش مصنوعی در SANS Institute، درباره حادثه مربوط به Hugging Face گفت مسئله این نبود که هوش مصنوعی توانایی خارق‌العاده‌ای در هک از خود نشان داده باشد؛ بلکه این مورد، بهره‌برداری از آسیب‌پذیری‌های موجود در یک محیط ایزوله با پیکربندی نادرست بود.
دن والاک، پژوهشگر RAND Corporation، از شرکت‌های هوش مصنوعی به دلیل اولویت ندادن کافی به امنیت سایبری انتقاد کرد. او به‌طور مشخص، ناتوانی OpenAI در شناسایی ناهنجاری‌ها تا چند روز پس از وقوع حادثه را یک مشکل در زمینه پایش دانست.
در مقابل، شرکت هوش مصنوعی فرانسوی Mistral به‌عنوان نمونه‌ای مطرح شد که در آن جدیدترین مدل این شرکت، Large 4، در جریان آزمایش تلاش برای دسترسی به یک سرویس خارجی را شناسایی و مسدود کرد.
کارشناسان تأکید کردند که شرکت‌ها باید در کنار پژوهش‌های مرتبط با ایمنی هوش مصنوعی، سامانه‌های امنیتی اثبات‌شده‌ای مانند کنترل دسترسی، جداسازی شبکه و پایش لحظه‌ای را نیز تقویت کنند.