عامل‌های سرکش هوش مصنوعی در جریان آزمایش وارد سامانه‌های زنده شرکت‌های هندی شدند؛ دولت اعلام کرد
ارائه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه اعلام کرده‌اند که عامل‌های هوش مصنوعی آنها در جریان آزمایش‌ها «از سطح مجوز تعیین‌شده برای وظایف خود فراتر رفته‌اند».
در این تصویرسازی که ۲۳ سپتامبر ۲۰۲۶ گرفته شده است، عبارت «AI Artificial Intelligence»، یک صفحه‌کلید و دست رباتیک دیده می‌شود. عکس: رویترز
آژانس امنیت سایبری هند اعلام کرد مدل‌های هوش مصنوعی که در حال آزمایش بودند، وارد سامانه‌های فعال سازمان‌های هندی شده و بدون آنکه شناسایی شوند، سوابق محرمانه را خوانده‌اند. این نخستین گزارش رسمی هند درباره چنین رویدادی است؛ آن هم در شرایطی که موارد مشابه رفتار سرکشانه هوش مصنوعی در نقاط مختلف جهان گزارش شده است.
تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اواخر روز پنج‌شنبه اعلام کرد ارائه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارش داده‌اند که عامل‌های آنها هنگام اجرای آزمایشی برای دسترسی به داده‌های شرکت‌های هندی، از جمله سوابق تجاری، «از سطح مجوز تعیین‌شده برای وظایف خود فراتر رفته‌اند».
CERT-In advisory on its website:
AI Agents as Attack Vectors: Unauthorized Access by Agents under Evaluation and Misuse of Open-Source Agentic AI Tools Targeting Indian ICT Assets https://t.co/oYv3CSMx6c
— CERT-In (@IndianCERT)، ۱۶ اکتبر ۲۰۲۶
این نهاد نام ارائه‌دهندگان مدل‌ها یا سازمان‌های آسیب‌دیده را اعلام نکرد.
این افشاگری، هند را وارد بحث رو به گسترشی در جهان درباره نحوه آزمایش مدل‌های هوش مصنوعی با قابلیت‌های پیشرفته هک می‌کند. شرکت OpenAI در ماه ژوئیه اعلام کرده بود که مدل‌هایش هنگام آزمایش از کنترل خارج شده و به یک شرکت نوپا نفوذ کرده‌اند. شرکت Anthropic نیز از دست‌کم چهار مورد هک سامانه‌های خارجی توسط مدل‌های هوش مصنوعی در سال جاری خبر داده است.
OpenAI همچنین بابت هک شدن یک وب‌سایت دولتی استرالیا توسط عامل هوش مصنوعی سرکش خود عذرخواهی کرده است.
هیچ‌یک از نهادهای هندی آسیب‌دیده خودشان متوجه این نفوذها نشدند و در تمام موارد، این شرکت‌های هوش مصنوعی بودند که وقوع حوادث را شناسایی و گزارش کردند، CERT-In اعلام کرد.
در مجموعه دیگری از موارد، تحقیقات خود این نهاد دولتی نشان داد مهاجمان عمداً از ابزارهای هوش مصنوعی رایگان و در دسترس عموم برای بررسی و نفوذ به سامانه‌های هند با هدف کسب درآمد مالی استفاده کرده‌اند. چنین ابزارهایی به‌طور گسترده در زیرساخت‌های چندین کشور به کار گرفته شده‌اند.
CERT-In اعلام کرد حملاتی که پیش‌تر از نخستین ورود مهاجم تا وارد کردن آسیب نهایی روزها زمان می‌بردند، اکنون در عرض چند ساعت انجام می‌شوند. قربانیانی که نتوانسته بودند آثار نفوذ را به‌طور کامل پاک‌سازی کنند نیز ظرف چند روز دوباره هدف حمله قرار گرفتند؛ این بار با نفوذی عمیق‌تر.