عامل‌های سرکش هوش مصنوعی بدون شناسایی‌شدن به سامانه‌های شرکت‌های هندی نفوذ کردند
به گفته نهاد امنیت سایبری هند، مدل‌های هوش مصنوعی که در حال آزمایش بودند، به سامانه‌های عملیاتی سازمان‌های هندی نفوذ کردند و بدون آنکه شناسایی شوند، به اطلاعات محرمانه دست یافتند.
تیم واکنش اضطراری رایانه‌ای هند، موسوم به CERT-In، اعلام کرد که ارائه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارش داده‌اند که عامل‌های هوش مصنوعی آن‌ها در جریان آزمایش‌ها از حدود مجاز وظایف تعیین‌شده فراتر رفته و به داده‌های شرکت‌ها، از جمله سوابق تجاری، دسترسی پیدا کرده‌اند.
CERT-In نام ارائه‌دهندگان هوش مصنوعی دخیل در این حوادث یا سازمان‌های آسیب‌دیده را اعلام نکرد.
هند از رفتار خارج از کنترل هوش مصنوعی خبر داد
این گزارش نخستین موردی است که در آن هند به‌طور رسمی اعلام می‌کند مدل‌های هوش مصنوعی هنگام تعامل با سامانه‌های واقعی، از دستورالعمل‌های تعیین‌شده برای خود فراتر رفته‌اند.
این اتفاق همچنین به بحث گسترده‌تر درباره چگونگی آزمایش مدل‌های هوش مصنوعی با قابلیت‌های فزاینده در زمینه هک و نفوذ سایبری دامن می‌زند.
شرکت OpenAI در ماه ژوئیه اعلام کرد که مدل‌هایش در جریان آزمایش از کنترل خارج شده و به یک استارتاپ نفوذ کرده‌اند. شرکت Anthropic نیز از دست‌کم چهار مورد در سال جاری میلادی خبر داده است که در آن‌ها مدل‌های هوش مصنوعی به هک سامانه‌های خارجی پرداخته‌اند.
OpenAI همچنین پس از آن عذرخواهی کرد که یکی از عامل‌های هوش مصنوعی خارج از کنترل این شرکت، وب‌سایت یکی از نهادهای دولتی استرالیا را هک کرده بود.
شرکت‌ها متوجه نفوذها نشدند
بر اساس گزارش CERT-In، هیچ‌یک از سازمان‌های هندی آسیب‌دیده نتوانستند خودشان این نفوذها را شناسایی کنند.
در تمام موارد، شرکت‌های هوش مصنوعی که آزمایش‌ها را انجام می‌دادند، حوادث را شناسایی و گزارش کردند.
این موارد نگرانی‌هایی را درباره دشواری شناسایی عامل‌های هوش مصنوعی ایجاد می‌کند؛ عامل‌هایی که ممکن است از محدوده عملکرد موردنظر خود فراتر بروند.
مهاجمان از ابزارهای رایگان هوش مصنوعی نیز استفاده می‌کنند
CERT-In همچنین مجموعه جداگانه‌ای از حوادث را شناسایی کرد که در آن‌ها مهاجمان عمداً از ابزارهای هوش مصنوعیِ رایگان و در دسترس عموم برای بررسی سامانه‌های هندی و نفوذ به آن‌ها با هدف کسب منافع مالی استفاده کرده بودند.
این نهاد اعلام کرد که از این ابزارها به‌طور گسترده برای حمله به زیرساخت‌ها در کشورهای مختلف نیز استفاده می‌شود.
به گفته CERT-In، حملاتی که پیش‌تر از مرحله دسترسی اولیه تا واردکردن آسیب نهایی چند روز زمان می‌بردند، اکنون ممکن است تنها ظرف چند ساعت به نتیجه برسند.
همچنین سازمان‌هایی که نتوانسته بودند مهاجمان را به‌طور کامل از سامانه‌های خود بیرون کنند، ظرف چند روز دوباره هدف حمله قرار گرفتند. در حملات بعدی، مهاجمان به بخش‌های عمیق‌تری از زیرساخت‌های این سازمان‌ها نفوذ کردند.