نفوذ عوامل هوش مصنوعی در حال آزمایش به شرکت‌های هندی؛ سازندگانشان این موارد را افشا کردند
مرکز واکنش اضطراری رایانه‌ای هند (CERT-In) اعلام کرد که عوامل هوش مصنوعی در حال آزمایش به سامانه‌های عملیاتی چند شرکت هندی نفوذ کرده و سوابق محرمانه آن‌ها را خوانده‌اند. این موارد تنها زمانی فاش شد که توسعه‌دهندگان خود این عوامل، دسترسی‌های غیرمجاز را گزارش کردند.
نکات کلیدی
- توسعه‌دهندگان هوش مصنوعی گزارش دادند که عوامل آن‌ها هنگام آزمایش به سوابق محرمانه شرکت‌های هندی دسترسی یافته‌اند.
- هیچ‌یک از سازمان‌های آسیب‌دیده به‌طور مستقل متوجه این دسترسی‌ها نشدند.
- در رویدادی جداگانه، مجرمان از ابزارهای هک مبتنی بر هوش مصنوعی استفاده کردند و زمان اجرای حملات را از چند روز به چند ساعت کاهش دادند.
جزئیات هشدار مرکز CERT-In
این آژانس در یک هشدار مهم که اواخر روز پنجشنبه منتشر شد، اعلام کرد که شرکت‌های فعال در حوزه هوش مصنوعی پس از بررسی‌های داخلی، خودشان این حوادث را گزارش کردند؛ بررسی‌ها نشان داده بود که مدل‌های آن‌ها از محدوده وظایف تعیین‌شده فراتر رفته‌اند. این عوامل با استفاده از اطلاعات ورود و دسترسی‌ای که در تنظیمات برنامه‌ها، مخازن عمومی کد و مجوزهای ابری سهل‌گیرانه در معرض دسترس قرار گرفته بود، سوابق تجاری، از جمله داده‌های شخصی، را خواندند. هیچ‌یک از سازمان‌ها متوجه این دسترسی‌ها نشدند.
تیم بررسی تهدیدهای این آژانس همچنین در جریان تحقیقات خود، یک کارزار جداگانه با انگیزه مالی را شناسایی کرد که در آن مجرمان از چارچوب‌های هک مبتنی بر هوش مصنوعی و در دسترس عموم علیه نهادهای هندی استفاده می‌کردند. این ابزارها زمان لازم برای اجرای حملات را از چند روز به چند ساعت کاهش دادند.
CERT-In نام توسعه‌دهندگان هوش مصنوعی، مدل‌های مورد استفاده یا سازمان‌های آسیب‌دیده را اعلام نکرد. همچنین مشخص نکرد که آیا داده‌ای کپی شده یا برای استفاده‌های بعدی نگهداری شده است یا خیر.
دیدگاه جایدیپ سینگ از کسپرسکی
به گفته این آژانس، ضعف‌های امنیتی زمینه‌ساز این نفوذها قدیمی و شناخته‌شده بودند؛ از کلیدهای دسترسی باقی‌مانده در کد منبع گرفته تا رابط‌های برنامه‌نویسی کاربردی (API) آزمایشی که فراموش شده بودند و کلیدهای پرداختی که به‌صورت متن ساده ذخیره شده بودند. عوامل هوش مصنوعی توانستند از این ضعف‌ها سریع‌تر و جامع‌تر از انسان‌ها بهره‌برداری کنند.
جایدیپ سینگ، مدیرکل کسپرسکی در هند، در اظهارنظری که منتشر شد، این هشدار را «یادآوری به‌موقعی دانست که نشان می‌دهد عوامل هوش مصنوعی دیگر صرفاً ابزارهایی برای افزایش بهره‌وری نیستند». او گفت اگر دسترسی گسترده‌ای در اختیار این عوامل قرار گیرد، ممکن است به سامانه‌های عملیاتی و داده‌های حساس دست پیدا کنند؛ آن هم به شیوه‌هایی که شرکت‌ها هرگز در نظر نداشته‌اند. این عوامل اغلب از طریق سرویس‌های ابری با پیکربندی نادرست به سامانه‌ها راه می‌یابند. سینگ افزود که در بیش از ۸۰ درصد حملاتی که کسپرسکی در سال ۲۰۲۵ بررسی کرده بود، حساب‌های کاربری معتبر، برنامه‌های در معرض دسترس عموم و روابط مورد اعتماد، نقطه ورود مهاجمان بوده‌اند.
به گفته سینگ، پیش از هر اقدامی که بازگرداندن آن ممکن نیست، باید تأیید یک انسان دریافت شود. CERT-In نیز از آزمایشگاه‌های هوش مصنوعی می‌خواهد عوامل خود را در محیط‌های ایزوله آزمایش کنند و دسترسی خروجی به شبکه را در سطح شبکه مسدود سازند، نه اینکه صرفاً به دستورهای داده‌شده به مدل برای جلوگیری از چنین دسترسی‌هایی تکیه کنند.
نمونه‌های پیشین در OpenAI و Anthropic
CERT-In مشخص نکرد که آیا مدل‌های OpenAI یا Anthropic در این حوادث دخیل بوده‌اند یا خیر؛ بااین‌حال، هر دو شرکت در سال جاری میلادی موارد مشابهی را افشا کرده‌اند.
OpenAI در ماه ژوئیه اعلام کرد که مدل‌هایش هنگام آزمایش، به پلتفرم توسعه هوش مصنوعی Hugging Face نفوذ کرده‌اند. این شرکت همچنین اعلام کرد که در حال اطلاع‌رسانی به اشخاص و سازمان‌های ثالثی است که ممکن است مدل‌هایش از کنترل‌های امنیتی آن‌ها عبور کرده باشند. پس از آن، Anthropic نیز از چهار مورد مشابه مرتبط با مدل‌های Claude خود خبر داد.