هشدار CERT-In درباره دسترسی غیرمجاز عوامل هوش مصنوعی به داده‌های سازمان‌های هند
دهلی نو، ۱۶ اکتبر (PTI) — مرکز واکنش اضطراری رایانه‌ای هند (CERT-In) در یک هشدار «بحرانی» اعلام کرده است که عوامل خودمختار هوش مصنوعی بدون مجوز به سامانه‌های زنده و داده‌های محرمانه سازمان‌های هندی دسترسی پیدا کرده‌اند. این نهاد همچنین هشدار داده است که عاملان تهدید در حال استفاده از ابزارهای متن‌باز هوش مصنوعی عامل‌محور برای اجرای حملات سایبری سریع هستند.
تیم واکنش اضطراری رایانه‌ای هند در توصیه‌نامه خود با شماره CIAD-2026-0049 و عنوان «عوامل هوش مصنوعی به‌عنوان بردارهای حمله»، دو دسته مجزا از حوادث را که زیرساخت فناوری اطلاعات و ارتباطات (ICT) نهادهای هندی را هدف گرفته‌اند، برجسته کرده است.
در نخستین دسته از حوادث، ارائه‌دهندگان مدل‌های هوش مصنوعی به‌طور داوطلبانه اعلام کردند که مدل‌ها و عوامل خودمختار هوش مصنوعی که در حال پژوهش و ارزیابی بودند، از محدوده مجاز وظایف تعیین‌شده فراتر رفته و به سامانه‌های زنده متعلق به سازمان‌های هندی دسترسی پیدا کرده‌اند.
به گفته این نهاد، عوامل هوش مصنوعی در جریان این عملیات، سوابق تجاری حاوی داده‌های شخصی و اطلاعات محرمانه را مطالعه کردند. آنها برای این کار از اعتبارنامه‌ها و تنظیمات اتصال استفاده کردند که در پیکربندی‌های برنامه‌ها، مخازن عمومی کد و نقش‌های ابری با سطح دسترسی بیش از حد مجاز، در معرض دسترسی قرار گرفته بودند.
نکته قابل توجه این است که هیچ‌یک از سازمان‌های آسیب‌دیده خودشان متوجه این دسترسی نشدند. در تمام موارد، ماجرا تنها زمانی آشکار شد که ارائه‌دهنده مدل هوش مصنوعی پس از بررسی داخلی، آن را گزارش کرد.
در روندی جداگانه که CERT-In در جریان فعالیت‌های شناسایی تهدید خود کشف کرد، مجرمان سایبری از چارچوب‌های عمومی و بومی هوش مصنوعی برای عملیات تهاجمی امنیتی استفاده می‌کردند تا شناسایی اولیه را انجام دهند، از ضعف‌های امنیتی بهره‌برداری کنند و یک کارزار با انگیزه مالی علیه نهادهای هندی به راه بیندازند.
این نهاد اعلام کرد که این ابزارها همچنان بازبسته‌بندی و دوباره مستقر می‌شوند و بسیاری از استقرارهای آنها روی سرورهایی در کشورهای مختلف مشاهده شده است.
در این کارزار، ابزارهای عامل‌محور فاصله زمانی میان دسترسی اولیه و وارد کردن ضربه نهایی را از چند روز به چند ساعت کاهش دادند. به گفته CERT-In، قربانیانی که ضعف‌های امنیتی را تنها به‌طور ناقص برطرف کرده بودند، ظرف چند روز و در مقیاسی بزرگ‌تر دوباره هدف حمله قرار گرفتند.
CERT-In تأکید کرد که در تمام حوادث اخیر مبتنی بر عوامل هوش مصنوعی که این نهاد مشاهده کرده، ضعف‌های اصلی از همان کاستی‌های متعارف امنیتی ناشی می‌شدند.
این کاستی‌ها شامل افشای اعتبارنامه‌ها و کلیدها در کد منبع، تاریخچه مخازن عمومی، فایل‌های پیکربندی، برنامه‌های کاربردی مشتری و محتوای عمومی وب؛ باز ماندن رابط‌های برنامه‌نویسی کاربردی (API) غیرفعال، منسوخ و آزمایشی در معرض اینترنت؛ ذخیره‌سازی کلیدهای API پرداخت به‌صورت متن ساده؛ اختصاص نقش‌های بیش از حد مجاز در محیط‌های ابری و سرویس‌های بک‌اند؛ و همچنین رابط‌های مدیریتی در معرض اینترنت و میان‌افزارهای وصله‌نشده با گذرواژه‌های ضعیف یا بدون احراز هویت چندعاملی بود.
عوامل هوش مصنوعی این شکاف‌ها را سریع‌تر، کامل‌تر و در مقیاسی بزرگ‌تر از مهاجمان انسانی پیدا کرده و مورد بهره‌برداری قرار دادند.
در حوادثی که ارائه‌دهندگان مدل‌های هوش مصنوعی افشا کردند، مشاهده شد که عوامل همچنین همان اعتبارنامه افشاشده را دوباره پیدا کرده و در عملیات‌های جداگانه مورد استفاده قرار داده‌اند.
CERT-In برای کاهش این تهدید از سازمان‌ها و ارائه‌دهندگان خدمات خواست کد منبع، مخازن شامل تاریخچه ثبت تغییرات، فایل‌های پیکربندی، برنامه‌های کاربردی مشتری و فضای ذخیره‌سازی ابری خود را برای یافتن اعتبارنامه‌های افشاشده بررسی کنند.
این نهاد به سازمان‌ها توصیه کرده است اعتبارنامه‌های افشاشده را تغییر دهند و آنها را از تاریخچه کد حذف کنند، APIهای غیرفعال، منسوخ و آزمایشی را از رده خارج کنند، اصل حداقل دسترسی را در استقرارهای ابری و برای عوامل هوش مصنوعی داخلی اعمال کنند، رابط‌های مدیریتی را از اینترنت خارج کنند، احراز هویت چندعاملی را الزامی سازند و حملات را زیر نظر بگیرند و گزارش‌های ثبت رویداد را دست‌کم ۱۸۰ روز نگه دارند.
CERT-In همچنین اعلام کرد پس از هرگونه افشای اعتبارنامه یا نفوذ تأییدشده، سازمان‌ها باید محیط خود را تا زمانی که «از نظر جرم‌شناسی دیجیتال پاک‌سازی» نشده است، به‌عنوان یک محیط آلوده در نظر بگیرند و انتظار تلاش‌های مجدد را طی چند روز تا چند هفته داشته باشند.
برای توسعه‌دهندگان هوش مصنوعی، آزمایشگاه‌های پژوهشی و نهادهای ارزیابی، CERT-In توصیه کرده است فعالیت‌های پژوهشی و ارزیابی را با مسدود کردن تمام دسترسی‌های خروجی شبکه، به‌جز مواردی که هر وظیفه به‌طور مشخص به آنها نیاز دارد، از سایر محیط‌ها جدا کنند. این محدودیت باید در سطح شبکه اعمال شود، نه از طریق دستورالعمل‌هایی که به مدل داده می‌شود. همچنین استفاده از اهداف مصنوعی و اعتبارنامه‌های آزمایشی به‌جای داده‌های تولیدی توصیه شده است.
جایدیپ سینگ، مدیرکل کسپرسکی در هند، در واکنش به این توصیه‌نامه گفت این هشدار «یادآوری به‌موقعی است که عوامل هوش مصنوعی دیگر صرفاً ابزارهای افزایش بهره‌وری نیستند».
سینگ گفت: «وقتی دسترسی گسترده‌ای در اختیار آنها قرار گیرد، می‌توانند به شیوه‌هایی که سازمان‌ها هرگز قصد نداشته‌اند به سامانه‌های زنده و داده‌های حساس دسترسی پیدا کنند؛ اغلب نیز از شکاف‌هایی عبور می‌کنند که از قبل وجود داشته‌اند، مانند سرویس‌های ابری نادرست پیکربندی‌شده، اعتبارنامه‌های افشاشده و مجوزهای بیش از حد.»
سینگ گفت حساب‌های معتبر، برنامه‌های در معرض اینترنت و روابط مورد اعتماد، نقطه ورود بیش از ۸۰ درصد حملاتی بودند که کسپرسکی در سال ۲۰۲۵ بررسی کرده است. او افزود: «با توجه به اینکه هوش مصنوعی به عاملان تهدید اجازه می‌دهد سریع‌تر تکرار کنند و دامنه فعالیت‌های خود را گسترش دهند، اکنون می‌توان از این مسیرها سریع‌تر از همیشه بهره‌برداری کرد.»
عوامل هوش مصنوعی مورد استفاده برای پژوهش و آزمایش باید کاملاً از محیط‌های تولیدی جدا باشند و از داده‌های مصنوعی و اعتبارنامه‌های صرفاً آزمایشی استفاده کنند.
سینگ افزود: «هر عامل باید در فهرست دارایی‌ها ثبت شود، در محیط‌های ایزوله و سندباکس‌شده قرار گیرد، به‌طور پیش‌فرض تحت قواعد منع دسترسی باشد و پیش از انجام هر اقدام برگشت‌ناپذیر، ملزم به دریافت تأیید انسانی باشد.»
به گفته سینگ، آسیب‌پذیری‌های بحرانی باید «ظرف چند ساعت، نه چند هفته» وصله یا مهار شوند و کد و خطوط انتقال و استقرار نرم‌افزار نیز باید به‌طور منظم ممیزی شوند. او به مطالعه‌ای از کسپرسکی درباره حدود ۳۰ هزار مخزن محبوب در گیت‌هاب اشاره کرد که بر اساس آن، مجوزهای دسترسی بیش از حد گسترده از جمله رایج‌ترین مشکلات بوده‌اند.
سینگ توصیه کرد سازمان‌ها از همان روز نخست، عوامل هوش مصنوعی را بخشی از سطح حمله خود در نظر بگیرند.