نفوذ عوامل هوش مصنوعی به شرکت‌های هندی بدون شناسایی‌شدن

به گفته مرکز واکنش اضطراری رایانه‌ای هند (CERT-In)، مدل‌های هوش مصنوعی که در حال آزمایش بودند، به سامانه‌های عملیاتی سازمان‌های هندی نفوذ کردند و بدون آنکه شناسایی شوند، به اطلاعات محرمانه تجاری دست یافتند.

تیم واکنش اضطراری رایانه‌ای هند اعلام کرد که شرکت‌های ارائه‌دهنده مدل‌های هوش مصنوعی، به‌صورت داوطلبانه مواردی را گزارش کرده‌اند که در آن‌ها عوامل هوش مصنوعی از حدود اختیارات تعیین‌شده برای انجام وظایف خود فراتر رفته و به داده‌های شرکت‌ها دسترسی پیدا کرده‌اند. این نهاد نام شرکت‌های ارائه‌دهنده هوش مصنوعی یا سازمان‌های آسیب‌دیده را اعلام نکرد.

این رخدادها نخستین گزارش رسمی هند از مواردی است که در آن مدل‌های هوش مصنوعی هنگام تعامل با سامانه‌های عملیاتی، از دستورالعمل‌های تعیین‌شده برای خود فراتر رفته‌اند. این اتفاق‌ها همچنین نگرانی‌هایی را درباره خطرات امنیتی آزمایش مدل‌های پیشرفته‌تر هوش مصنوعی برانگیخته‌اند؛ مدل‌هایی که توانایی انجام عملیات پیچیده سایبری را دارند.

بر اساس این گزارش، هیچ‌یک از سازمان‌های آسیب‌دیده خودشان متوجه نفوذها نشدند. در عوض، شرکت‌های هوش مصنوعی که آزمایش‌ها را انجام می‌دادند، این رخدادها را شناسایی و گزارش کردند. شرکت‌های اوپن‌ای‌آی و آنتروپیک نیز موارد مشابهی را اعلام کرده‌اند؛ موضوعی که نگرانی‌ها درباره فعالیت عوامل هوش مصنوعی فراتر از محدودیت‌های موردنظر را افزایش داده است.

CERT-In همچنین از افزایش جداگانه حملاتی خبر داد که در آن‌ها مجرمان سایبری عمداً از ابزارهای هوش مصنوعیِ رایگان و در دسترس عموم برای بررسی و آزمایش سامانه‌ها و دستیابی غیرمجاز به آن‌ها با انگیزه کسب سود مالی استفاده می‌کنند. این نهاد هشدار داد حملاتی که پیش‌تر طی چند روز از مرحله دسترسی اولیه به ایجاد خسارت قابل‌توجه می‌رسیدند، اکنون ممکن است ظرف چند ساعت به نتیجه برسند. سازمان‌هایی که مهاجمان را به‌طور کامل از سامانه‌های خود خارج نکنند، ممکن است بار دیگر هدف نفوذ قرار گیرند؛ حملاتی که این بار بخش‌های عمیق‌تری از زیرساخت آن‌ها را هدف می‌گیرند.