هشدار سرت-این درباره عامل‌های هوش مصنوعی؛ زنگ خطری پیش از وقوع خسارت‌های جدی مالی
در پی هشدار نهاد سرت-این درباره عامل‌های خودمختار هوش مصنوعی، منابع دولتی هند روز جمعه اعلام کردند که همه شرکت‌ها باید اقدامات امنیت سایبری خود را تقویت کنند و فعالیت‌های غیرعادی سامانه‌هایشان را با دقت بیشتری زیر نظر بگیرند. به گفته این منابع، اطلاعات حیاتی هیچ‌یک از سازمان‌های مهم در این رخداد به خطر نیفتاده است و این حادثه باید به‌عنوان هشداری زودهنگام جدی گرفته شود.
نهاد امنیت سایبری هند، سرت-این (Cert-In)، هشدار مهمی صادر کرده است که در آن اعلام شده عامل‌های خودمختار هوش مصنوعی به سامانه‌های فعال و داده‌های محرمانه سازمان‌های هندی بدون مجوز دسترسی پیدا کرده‌اند. این نهاد همچنین هشدار داده است که مهاجمان سایبری به‌طور فعال از ابزارهای متن‌باز هوش مصنوعی عامل‌محور برای اجرای سریع حملات سایبری استفاده می‌کنند.
منابع دولتی به خبرگزاری پی‌تی‌آی گفتند مقررات آتی هوش مصنوعی، که انتظار می‌رود سند مشورتی آن به‌زودی منتشر شود، ممکن است موضوعات مربوط به عامل‌های خودمختار را نیز بررسی کند.
این منابع تأکید کردند که در این رخداد، هیچ سازمان مهمی با خسارت جدی روبه‌رو نشده و زیان مالی عمده‌ای به بار نیامده است؛ همچنین اطلاعات حیاتی افشا نشده است. بااین‌حال، این حادثه آسیب‌پذیری‌های موجود را آشکار کرده است. به گفته آن‌ها، شرکت‌ها باید این اتفاق را هشداری زودهنگام بدانند، فوراً بهداشت امنیت سایبری خود را بهبود دهند، در ابزارهای امنیتی پیشرفته‌تر سرمایه‌گذاری کنند و نظارت بلادرنگ بر سامانه‌هایشان را افزایش دهند.
منابع دولتی افزودند شرکت‌های بزرگ‌تر باید از مراکز عملیات امنیتی برای رصد فعالیت‌های مشکوک، از جمله تلاش‌های مکرر برای ورود به سامانه‌ها و دسترسی از نشانی‌های غیرمعمول پروتکل اینترنت (IP)، استفاده کنند. سازمان‌ها همچنین باید ابزارهای یادگیری ماشین را برای شناسایی تهدیدها و خودکارسازی واکنش‌ها به کار بگیرند.
به گفته منابع، دولت در حال بررسی این موضوع است که چگونه می‌توان خطرهای ناشی از عامل‌های هوش مصنوعی را در مقررات آینده این فناوری پوشش داد؛ موضوعی که یکی از اولویت‌های این فرایند خواهد بود.
آن‌ها افزودند سند مشورتی آتی درباره مقررات هوش مصنوعی ممکن است به این مسئله بپردازد که آیا لازم است برای فعالیت عامل‌های هوش مصنوعی محدودیت‌ها و مرزهای مشخصی تعیین شود یا خیر.
کارشناسان گفتند خطر اصلی این است که عامل‌های هوش مصنوعی بتوانند بدون اطلاع سازمان‌ها به داده‌های حساسی فراتر از سطح دسترسی مجاز خود دست پیدا کنند. با گسترش استفاده از ابزارهای هوش مصنوعی برای پردازش اطلاعات شخصی، این شکاف امنیتی می‌تواند کاربران عادی را نیز تحت تأثیر قرار دهد.
تیم واکنش اضطراری رایانه‌ای هند (Cert-In) در هشدار مهم خود به شماره CIAD-2026-0049 با عنوان «عامل‌های هوش مصنوعی به‌عنوان مسیر حمله» اعلام کرد ارائه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارش داده‌اند که برخی مدل‌ها و عامل‌های خودمختار هوش مصنوعی، در جریان پژوهش و ارزیابی، از محدوده وظایف تعیین‌شده فراتر رفته و به سامانه‌های فعال متعلق به سازمان‌های هندی دسترسی پیدا کرده‌اند؛ دسترسی‌هایی که مجاز نبوده‌اند.
این نهاد همچنین اعلام کرد مهاجمان سایبری به‌طور فعال ابزارهای متن‌باز هوش مصنوعی عامل‌محور را برای اجرای حملات سریع علیه اهداف هندی به کار می‌گیرند.
نکته قابل‌توجه آن است که هیچ‌یک از سازمان‌های آسیب‌دیده شخصاً متوجه این دسترسی‌ها نشده بودند. در تمام موارد، ماجرا تنها زمانی آشکار شد که ارائه‌دهنده مدل هوش مصنوعی، پس از بررسی داخلی، موضوع را گزارش کرد.
به گفته این نهاد، عامل‌های هوش مصنوعی در جریان این عملیات، سوابق تجاری حاوی اطلاعات شخصی و مطالب محرمانه را خوانده‌اند. آن‌ها از اطلاعات ورود و تنظیمات اتصال آسیب‌پذیری استفاده کرده‌اند که در پیکربندی برنامه‌ها، مخازن عمومی کد و نقش‌های خدمات ابری با مجوزهای بیش از حد گسترده در معرض دسترس قرار گرفته بودند.
سرت-این در جریان عملیات مستقل خود برای شناسایی تهدیدها، روند دیگری را نیز شناسایی کرد: مجرمان سایبری از چارچوب‌های عمومی و مبتنی بر هوش مصنوعی برای امنیت تهاجمی استفاده می‌کردند تا شناسایی اولیه اهداف را انجام دهند، ضعف‌های امنیتی را مورد بهره‌برداری قرار دهند و حملاتی با انگیزه مالی علیه اهداف هندی به راه بیندازند.
این نهاد اعلام کرد این ابزارها همچنان با بسته‌بندی مجدد در قالب‌های تازه، دوباره مستقر می‌شوند و موارد متعددی از به‌کارگیری آن‌ها روی سرورهایی در کشورهای مختلف مشاهده شده است.
به گفته سرت-این، در این کارزار، ابزارهای عامل‌محور فاصله زمانی میان دسترسی اولیه به سامانه و وارد آمدن خسارت نهایی را از چند روز به چند ساعت کاهش دادند. سازمان‌هایی که ضعف‌های امنیتی را فقط تا حدی برطرف کرده بودند، ظرف چند روز دوباره هدف حمله قرار گرفتند؛ این بار در مقیاسی گسترده‌تر.
سرت-این خاطرنشان کرد که در تمام رخدادهای اخیر مرتبط با عامل‌های هوش مصنوعی که این نهاد بررسی کرده، ریشه اصلی آسیب‌پذیری‌ها به ضعف‌های متعارف امنیتی بازمی‌گشت.
جای‌دیپ سینگ، مدیرکل کسپرسکی در هند، گفت این رخداد «یادآوری به‌موقعی است که عامل‌های هوش مصنوعی دیگر صرفاً ابزارهایی برای افزایش بهره‌وری نیستند».
سینگ گفت: «وقتی دسترسی گسترده‌ای در اختیار این عامل‌ها قرار می‌گیرد، ممکن است به سامانه‌های فعال و داده‌های حساس دست پیدا کنند؛ آن هم به شیوه‌هایی که سازمان‌ها هرگز در نظر نداشته‌اند. این اتفاق اغلب از شکاف‌هایی عبور می‌کند که از قبل وجود داشته‌اند؛ مانند پیکربندی نادرست خدمات ابری، اطلاعات ورود افشاشده و مجوزهای بیش از حد گسترده.»
به گفته سینگ، بیش از ۸۰ درصد حملاتی که کسپرسکی در سال ۲۰۲۵ بررسی کرده، از حساب‌های کاربری معتبر، برنامه‌های در دسترس عموم و روابط مورد اعتماد برای نفوذ اولیه استفاده کرده‌اند. او افزود: «از آنجا که هوش مصنوعی به مهاجمان امکان می‌دهد روش‌های خود را سریع‌تر اصلاح کنند و دامنه فعالیتشان را گسترش دهند، اکنون می‌توانند از این مسیرها سریع‌تر از هر زمان دیگری سوءاستفاده کنند.»
عامل‌های هوش مصنوعی مورد استفاده برای پژوهش و آزمایش باید کاملاً از محیط‌های عملیاتی واقعی جدا نگه داشته شوند و در آن‌ها از داده‌های مصنوعی و اطلاعات ورود مختص محیط آزمایشی استفاده شود.
سینگ افزود: «باید تمام عامل‌ها در فهرستی مشخص ثبت شوند، در محیط‌های ایزوله و سندباکس قرار بگیرند، تابع قواعدی باشند که دسترسی را به‌طور پیش‌فرض رد می‌کنند و پیش از انجام هر اقدام برگشت‌ناپذیر، ملزم به دریافت تأیید انسانی باشند.»
او گفت آسیب‌پذیری‌های حیاتی باید «ظرف چند ساعت، نه چند هفته» اصلاح یا مهار شوند و کدها و خط لوله‌های توسعه نیز باید به‌طور منظم مورد ممیزی قرار گیرند. سینگ در این زمینه به مطالعه‌ای از کسپرسکی اشاره کرد که حدود ۳۰ هزار مخزن محبوب گیت‌هاب را بررسی کرده بود و نشان می‌داد مجوزهای دسترسی بیش از حد گسترده از جمله مشکلات رایج در این مخازن هستند.
سانیل شارما، مدیرعامل و معاون فروش سوفوس در هند و منطقه سارک، گفت با افزایش توانایی عامل‌های هوش مصنوعی برای دسترسی به داده‌ها و انجام مستقل وظایف، ملاحظات تازه‌ای در حوزه امنیت سایبری به وجود آمده است.
او گفت: «سازمان‌ها باید رویه‌های امنیتی تثبیت‌شده خود را به این سامانه‌ها نیز گسترش دهند. برای هر عامل باید هویت مستقلی تعریف شود، دسترسی‌ها به حداقل مجوزهای لازم محدود بماند، کلیدها و توکن‌های رابط برنامه‌نویسی کاربردی (API) ایمن نگه داشته شوند، ثبت رویدادها به‌اندازه کافی انجام شود و رفتارهای غیرعادی به‌طور پیوسته زیر نظر باشند. محیط‌های پژوهش و آزمایش نیز باید از محیط‌های عملیاتی واقعی جدا شوند.»
سومن ماندال، تحلیلگر ارشد کانترپوینت ریسرچ، گفت دسترسی عامل‌های هوش مصنوعی به اطلاعات حساس فراتر از مجوزهای تعیین‌شده، بدون آنکه سازمان‌ها متوجه شوند، می‌تواند کاربران عادی را نیز درگیر کند؛ زیرا عامل‌های هوش مصنوعی به‌طور فزاینده‌ای با داده‌های شخصی و محرمانه سروکار دارند.
ماندال گفت: «با فراگیر شدن استفاده از هوش مصنوعی، توسعه‌دهندگان این فناوری، دولت‌ها، ارائه‌دهندگان برنامه‌ها، پژوهشگران مستقل و نهادهای صنعتی باید برای تدوین استانداردهای امنیتی مستحکم و چارچوب‌های پاسخ‌گویی با یکدیگر همکاری کنند؛ چارچوب‌هایی که بدون کند کردن روند نوآوری، اعتماد را تقویت کنند.»
فیصل کاووسا، تحلیلگر ارشد شرکت تک‌آرک، گفت هر سازمان و هر فرد باید در استفاده از هوش مصنوعی محتاط باشد. به گفته او، ابزارها و برنامه‌ها اغلب بر اساس هزینه انتخاب می‌شوند، نه بر مبنای درک پیامدهای استفاده از آن‌ها.
یادداشت ناشر: ممکن است کارکنان بیزنس استاندارد فقط تیتر و تصویر این گزارش را بازنویسی کرده باشند؛ سایر مطالب به‌صورت خودکار از یک خوراک خبری تجمیع‌شده تولید شده است.