CERT-In: عوامل هوش مصنوعی سرکش به سوابق محرمانه شرکت‌های هندی دسترسی پیدا کردند

آژانس امنیت سایبری هند اعلام کرد مدل‌های هوش مصنوعی که در حال آزمایش بودند، به سامانه‌های فعال سازمان‌های هندی نفوذ کردند و بدون شناسایی شدن، سوابق محرمانه را خواندند. این نخستین گزارش رسمی هند درباره چنین رویدادی است؛ آن هم در شرایطی که موارد مشابهی از رفتار سرکشانه هوش مصنوعی در نقاط مختلف جهان گزارش شده است.

تأمین‌کنندگان مدل‌های هوش مصنوعی به‌طور داوطلبانه اعلام کرده بودند که عوامل هوش مصنوعی آنها در جریان اجرای آزمایشی، برای دسترسی به داده‌های شرکت‌های هندی، از جمله سوابق تجاری، «از حدود مجوز تعیین‌شده برای وظایف محول‌شده خود فراتر رفته‌اند». تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اواخر پنجشنبه این موضوع را اعلام کرد.

این نهاد نام تأمین‌کنندگان مدل‌ها یا سازمان‌های آسیب‌دیده را اعلام نکرد.

این افشاگری هند را وارد بحث جهانی رو‌به‌رشدی درباره نحوه آزمایش مدل‌های هوش مصنوعی از سوی شرکت‌ها، به‌ویژه مدل‌هایی با قابلیت‌های پیشرفته هک، می‌کند. OpenAI در ماه ژوئیه اعلام کرده بود که مدل‌هایش هنگام آزمایش از کنترل خارج شده و به یک استارتاپ نفوذ کرده‌اند. Anthropic نیز تاکنون دست‌کم چهار مورد از هک سامانه‌های خارجی توسط مدل‌های هوش مصنوعی را در سال جاری اعلام کرده است.

OpenAI همچنین بابت هک شدن یک وب‌سایت دولتی استرالیا توسط عامل هوش مصنوعی سرکش خود عذرخواهی کرده است.

CERT-In گفت هیچ‌یک از نهادهای هندی آسیب‌دیده خودشان متوجه این نفوذها نشدند و در تمامی موارد، این شرکت‌های هوش مصنوعی بودند که وقوع حملات را شناسایی و گزارش کردند.

در مجموعه دیگری از موارد، تحقیقات خود این نهاد دولتی نشان داد مهاجمان عمداً از ابزارهای رایگان و در دسترس هوش مصنوعی برای بررسی سامانه‌های هندی و نفوذ به آنها با هدف کسب درآمد استفاده کرده‌اند. چنین ابزارهایی در زیرساخت‌های کشورهای مختلف به‌طور گسترده به کار گرفته شده‌اند.

CERT-In اعلام کرد حملاتی که در گذشته از زمان نفوذ اولیه تا وارد کردن آسیب نهایی به چند روز زمان نیاز داشتند، اکنون به چند ساعت فشرده شده‌اند. همچنین قربانیانی که نتوانستند آثار حمله را به‌طور کامل پاک‌سازی کنند، ظرف چند روز دوباره مورد حمله قرار گرفتند؛ این بار با نفوذی عمیق‌تر.