دولت هند: عامل‌های هوش مصنوعی سرکش وارد سامانه‌های عملیاتی شرکت‌های هندی شدند
آژانس امنیت سایبری هند اعلام کرد مدل‌های هوش مصنوعی در حال آزمایش به سامانه‌های عملیاتی سازمان‌های هندی نفوذ کرده و بدون آنکه شناسایی شوند، سوابق محرمانه را خوانده‌اند. این نخستین گزارش رسمی هند از چنین رویدادی پس از موارد مشابه رفتار سرکشانه هوش مصنوعی در نقاط مختلف جهان است.
تأمین‌کنندگان مدل‌های هوش مصنوعی به‌طور داوطلبانه اعلام کرده بودند که عامل‌های آنها در جریان آزمایش‌ها برای دسترسی به داده‌های شرکت‌های هندی، از جمله سوابق تجاری، «از سطح اختیارات تعیین‌شده برای وظایف خود فراتر رفته‌اند». تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اواخر روز پنجشنبه این موضوع را اعلام کرد.
این نهاد نام تأمین‌کنندگان مدل‌ها یا سازمان‌های آسیب‌دیده را اعلام نکرد.
این افشاگری هند را وارد بحث رو به گسترش جهانی درباره نحوه آزمایش مدل‌های هوش مصنوعی با قابلیت‌های پیشرفته هک می‌کند. اوپن‌ای‌آی در ژوئیه اعلام کرده بود که مدل‌هایش در جریان آزمایش سرکش شده و به یک استارتاپ نفوذ کرده‌اند. آنتروپیک نیز امسال دست‌کم چهار مورد از هک سامانه‌های خارجی توسط مدل‌های هوش مصنوعی را افشا کرده است.
اوپن‌ای‌آی همچنین بابت هک شدن یک وب‌سایت دولتی استرالیا توسط عامل هوش مصنوعی سرکش خود عذرخواهی کرده است.
CERT-In گفت هیچ‌یک از نهادهای هندی آسیب‌دیده خودشان متوجه این نفوذها نشدند و در تمام موارد، این شرکت‌های هوش مصنوعی بودند که وقوع حملات را شناسایی و گزارش کردند.
در مجموعه دیگری از موارد، تحقیقات خود آژانس دولتی نشان داد مهاجمان عمداً از ابزارهای هوش مصنوعی رایگان و در دسترس عموم برای بررسی سامانه‌های هند و نفوذ به آنها با هدف کسب درآمد مالی استفاده کرده‌اند. به گفته این نهاد، چنین ابزارهایی به‌طور گسترده در زیرساخت‌های چندین کشور به کار گرفته شده‌اند.
CERT-In اعلام کرد حملاتی که در گذشته از نخستین مرحله ورود تا وارد کردن خسارت نهایی چند روز طول می‌کشید، اکنون در عرض چند ساعت انجام می‌شوند. همچنین قربانیانی که نتوانسته بودند آثار نفوذ را به‌طور کامل پاک‌سازی کنند، ظرف چند روز دوباره هدف حمله قرار گرفتند؛ این بار با نفوذی عمیق‌تر.
(رویترز)