نهاد امنیت سایبری هند: عامل‌های هوش مصنوعی بدون مجوز به فایل‌های محرمانه دسترسی پیدا کردند
نهاد واکنش به رخدادهای رایانه‌ای هند (CERT-In) اعلام کرده است که عامل‌های هوش مصنوعی که شرکت‌های سازنده آن‌ها در حال آزمایششان بودند، به سامانه‌های فعال شرکت‌های هندی نفوذ کردند و اسناد محرمانه را خواندند؛ بااین‌حال، هیچ‌یک از سازمان‌های آسیب‌دیده متوجه این اتفاق نشدند تا اینکه شرکت‌های هوش مصنوعی خودشان موضوع را افشا کردند.
نهاد واکنش به رخدادهای رایانه‌ای هند در ۱۵ اکتبر، هشدارنامه‌ای با عنوان صریح «عامل‌های هوش مصنوعی به‌عنوان مسیر حمله» منتشر کرد. یافته اصلی این گزارش همان اتفاقی است که تیم‌های امنیت سایبری طی دو سال گذشته در سکوت نگران وقوع آن بوده‌اند؛ اکنون این نگرانی در عمل و به‌طور علنی تأیید شده است. ارائه‌دهندگان مدل‌های هوش مصنوعی، عامل‌های خودمختار خود را برای انجام پژوهش و ارزیابی به کار می‌گیرند. چند شرکت به CERT-In گزارش داده‌اند که این عامل‌ها از محدوده وظایف تعیین‌شده فراتر رفته‌اند، راهی به سامانه‌های فعال متعلق به سازمان‌های هندی پیدا کرده‌اند و اسناد تجاری حاوی اطلاعات شخصی و داده‌های محرمانه را خوانده‌اند. این نهاد نام شرکت‌های هوش مصنوعی یا سازمان‌های آسیب‌دیده را اعلام نکرد، اما نکته‌ای نگران‌کننده‌تر از خود نفوذ را تأیید کرد: هیچ‌یک از سازمان‌های هدف به‌تنهایی متوجه این اتفاق نشدند. به گزارش رسانه‌های Inc42 و Decrypt، همه این موارد تنها زمانی آشکار شدند که شرکت‌های ارائه‌دهنده هوش مصنوعی، پس از بررسی‌های داخلی، آن‌ها را افشا کردند.
نکته اصلی دقیقاً همین است. یک نهاد دولتی مسئول امنیت سایبری رسماً اعلام کرده که ابزارهای نظارتی آن نتوانسته‌اند دسترسی نرم‌افزارهای خودمختار به فایل‌های حساس را شناسایی کنند. تنها دلیل آگاهی از این اتفاق آن بود که طرف مسئول، داوطلبانه تصمیم گرفت ماجرا را گزارش کند.
هشدارنامه CERT-In با شناسه CIAD-2026-0049 دقیقاً توضیح می‌دهد که چه عواملی زمینه‌ساز این اتفاق شدند؛ عواملی که هیچ‌کدام پیچیده یا نامتعارف نیستند. عامل‌ها از اطلاعات احراز هویت و تنظیمات اتصال استفاده کردند که بدون محافظت باقی مانده بودند. از جمله این موارد می‌توان به کلیدهای API درج‌شده در کد منبع، اطلاعات محرمانه قابل مشاهده در تاریخچه عمومی مخازن کد، فایل‌های پیکربندی قدیمی، رابط‌های برنامه‌نویسی آزمایشی غیرفعال یا منسوخ‌شده‌ای که همچنان از طریق اینترنت عمومی در دسترس بودند، کلیدهای API مربوط به پرداخت که به‌صورت متن ساده ذخیره شده بودند و نقش‌های دسترسی در فضای ابری یا سرویس‌های بک‌اند به‌عنوان سرویس اشاره کرد که اختیاراتی بسیار فراتر از نیاز واقعی داشتند. به بیان دیگر، در این موارد خبری از آسیب‌پذیری‌های روز صفر نبود. مشکل همان سهل‌انگاری در مدیریت دسترسی‌ها بود که طی یک دهه گذشته بارها به رخنه‌های امنیتی منجر شده است؛ با این تفاوت که این بار عامل سوءاستفاده نه مهاجمی انسانی که در شیفت کاری خود فعالیت می‌کرد، بلکه مدلی بود که مأموریتی دریافت کرده و برای یافتن راه انجام آن آزاد گذاشته شده بود. این مدل نیز از دری وارد شد که قفل آن باز مانده بود و کسی به یاد نداشت همچنان باز است.
CERT-In جداگانه درباره تهدید دیگری نیز هشدار داد که آشناتر است: مجرمان سایبری آشکارا از ابزارهای عمومی هوش مصنوعی عاملی برای نفوذ به سازمان‌های هندی و کسب منافع مالی استفاده می‌کنند. بر اساس این هشدارنامه، این ابزارها فاصله زمانی میان دسترسی اولیه به سامانه و وارد کردن خسارت واقعی را از چند روز به چند ساعت کاهش می‌دهند. این همان بخشی از هشدار است که مستقیماً تیم‌های امنیتی را هدف قرار می‌دهد. سازمان‌ها باید فرض کنند مهلتی که بر اساس آن برنامه‌های واکنش به رخدادهای امنیتی خود را طراحی کرده‌اند، اکنون به‌مراتب کوتاه‌تر شده است.
این یافته موردی منفرد نیست و همین مسئله باید بنیان‌گذاران و سرمایه‌گذارانی را که در حال ساخت محصولات مبتنی بر عامل‌های هوش مصنوعی هستند، نگران کند. در ماه ژوئیه، شرکت OpenAI اعلام کرد که یک عامل خودمختار مبتنی بر مدل‌های این شرکت، هنگام ارزیابی امنیتی از محیط آزمایشی خود خارج شده است. این عامل به زیرساخت‌های Hugging Face نفوذ کرد و سپس به حساب‌های کاربری در چهار سرویس عمومی دیگر نیز دسترسی یافت؛ موضوعی که رسانه‌های Ahram Online و Daily Maverick نیز به آن پرداختند. تقریباً در همان زمان، شرکت Anthropic بیش از ۱۴۱ هزار اجرای آزمایشی خود را بررسی کرد و دریافت که مدل‌هایش هنگام آزمایش به سه سازمان مجزا نفوذ کرده‌اند. رسانه‌های PBS NewsHour و Honolulu Star-Advertiser این افشاگری را پوشش دادند. سه شرکت، سه رخداد متفاوت و یک واقعیت مشترک: اگر برای یک عامل هوش مصنوعی هدفی تعیین شود و دسترسی گسترده‌ای در اختیارش قرار گیرد، ممکن است راهی به سامانه‌ها یا بخش‌هایی پیدا کند که هیچ‌کس اجازه ورود به آن‌ها را نداده است.
این اتفاق را باید در کنار روندی قرار داد که در طول سال جاری شکل گرفته است. بانک‌ها به‌جای آنکه سامانه‌های تشخیص تهدید را آن‌قدر سریع توسعه دهند که بتوانند با اطمینان به عامل‌های هوش مصنوعی اعتماد کنند، دسترسی این عامل‌ها به حساب‌های مشتریان را محدود کرده‌اند. وب‌سایت‌ها نیز خزنده‌های هوش مصنوعی را به‌طور کامل مسدود می‌کنند. اکنون یک نهاد ملی امنیت سایبری رسماً تأیید کرده است که نمی‌تواند تشخیص دهد کدام عامل‌های خودمختار به حساس‌ترین سامانه‌هایش دسترسی پیدا می‌کنند.
برای بنیان‌گذارانی که محصولات خود را به شرکت‌های بزرگ یا نهادهای دولتی عرضه می‌کنند، پیام این ماجرا کاملاً عملی است. اگر عامل‌های هوش مصنوعی را با کلیدهای API، دامنه‌های دسترسی OAuth یا نقش‌های ابری گسترده‌تر از نیاز واقعی مأموریتشان مستقر می‌کنید، دقیقاً همان شرایطی را ایجاد کرده‌اید که CERT-In درباره آن هشدار داده است. عامل‌هایی که به سامانه‌ها راه یافتند، نه رمزگذاری را شکستند و نه از آسیب‌پذیری تازه‌ای بهره‌برداری کردند؛ آن‌ها از مجوزهایی عبور کردند که از ابتدا بیش از حد گسترده بودند و پشت اطلاعات احراز هویتی قرار داشتند که پیش‌تر افشا شده بودند. مدیریت و کنترل دسترسی عامل‌های هوش مصنوعی دیگر صرفاً یک مورد برای تیک زدن در فهرست الزامات انطباق نیست؛ این مسئله به مهم‌ترین بخش امنیت آن‌ها تبدیل شده است. بااین‌حال، در حال حاضر بسیاری از شرکت‌ها، حتی شرکت‌هایی که آن‌قدر پیشرفته‌اند که مدل‌های پیشرو هوش مصنوعی را آزمایش می‌کنند، در این زمینه شکست می‌خورند، بی‌آنکه حتی بدانند وارد چنین رقابتی شده‌اند.