مهاجم سایبری با جعل هویت ربات‌های هوش مصنوعی، بی‌وقفه به‌دنبال سرقت اطلاعات ورود است
یک عامل تهدید سایبری با پنهان‌شدن پشت هویت بیش از ۳۰ ربات مختلف، در تلاش بوده است اطلاعات دسترسی افشاشده را پیدا کند و به سرقت ببرد. این مهاجم به‌طور مداوم سامانه‌ها را برای یافتن داده‌های حساس اسکن کرده، اما موفقیتی به دست نیاورده است. یافته‌های پژوهشگران بر مشکلی فزاینده برای سازمان‌ها تأکید دارد: تشخیص اینکه کدام عامل‌های هوش مصنوعی مجاز به فعالیت در شبکه‌های سازمانی هستند و کدام‌یک ممکن است مخرب باشند.
بر اساس گزارشی که امروز از سوی گروه پژوهشی CQ Prime Research، وابسته به شرکت Cequence Security، منتشر شده است، یک اسکنر با جعل هویت ۳۲ ربات، از جمله خزنده‌ها و دستیارهای OpenAI، Anthropic، Perplexity، Meta و شرکت‌های دیگر، به‌دنبال اطلاعات دسترسی افشاشده سازمان‌های مختلف بوده است. این اسکنر از سازمان‌های هدف درخواست فایل‌هایی را ارسال می‌کرد که حاوی رمزهای عبور، کلیدهای API و اطلاعات دسترسی به خدمات ابری بودند. سازمان‌های هدف در حوزه‌های خرده‌فروشی، خدمات مالی، مخابرات، انرژی و نرم‌افزار فعالیت می‌کنند.
به گفته پژوهشگران، فعالیت این اسکنر از اواخر سپتامبر آغاز شده بود و در اواخر اکتبر نیز همچنان ادامه داشت. پژوهشگران در ۲۱ اکتبر این فعالیت را شناسایی کردند و دریافتند که تنها در یک روز از همان ماه، ۴۸ درصد از سازمان‌های تحت حفاظت Cequence با ترافیک مخرب این ربات هوش مصنوعی مواجه شده‌اند.
این یافته‌ها از چالشی فزاینده برای تیم‌های امنیتی در مقطعی حساس حکایت دارد؛ زمانی که کسب‌وکارها باید مشخص کنند به کدام عامل‌های هوش مصنوعی اعتماد کنند و به کدام‌یک اجازه دسترسی به خدمات خود را بدهند.
ویل گلیزر، مدیر پژوهش تهدیدها و علم داده در CQ Prime، در گزارش می‌نویسد: «مهاجمان می‌توانند تک‌تک تصمیم‌های مربوط به مجاز یا غیرمجاز دانستن دسترسی را آزمایش کنند. آنچه Cequence مشاهده کرده، تلاش مهاجمان برای بررسی این است که یک کسب‌وکار به کدام عامل‌ها اعتماد می‌کند؛ سپس خود را به‌جای همان عامل‌هایی جا می‌زنند که انتظار دارند از سد کنترل‌های دسترسی عبور کنند.»
اسکنر مخرب با رفتار خود هویتش را فاش می‌کند
این اسکنر در هر نوبت، طی حدود هشت ثانیه بین ۵۰ تا ۱۹۰ درخواست ارسال می‌کند و سپس به سراغ هدف بعدی می‌رود. اهداف را یکی‌یکی بررسی می‌کند و این روند را شبانه‌روزی ادامه می‌دهد. بااین‌حال، بر اساس گزارش، خوشبختانه تقریباً تمام درخواست‌ها مسدود شده‌اند یا به نتیجه نرسیده‌اند.
گلیزر می‌نویسد: «ابتدا مسیرهای تصادفی و بی‌معنا را درخواست می‌کند تا وب‌سایت‌هایی را پیدا کند که به همه درخواست‌ها پاسخ می‌دهند؛ این روشی رایج در اسکن سامانه‌هاست.»
پژوهشگران CQ Prime Research با شناسایی چند رفتار مشخص که تلاش اسکنر برای پنهان‌ماندن در میان ترافیک عادی را ناکام می‌گذاشت، مخرب‌بودن این فعالیت را تشخیص دادند. طبق گزارش، اسکنر به‌طور متوازن میان حدود ۳۲ هویت رباتی جابه‌جا می‌شود؛ رفتاری که از ربات‌های واقعی انتظار نمی‌رود. یک دستگاه در فاصله چند ثانیه ادعا کرده بود که عامل متعلق به OpenAI، Anthropic، Meta و Perplexity است.
به گفته CQ Prime Research، مهاجم همچنین برای تمام هویت‌های جعلی مربوط به Claude از نشانی تماس خزنده Anthropic استفاده کرده بود؛ حتی زمانی که خود را به‌جای عامل‌های متفاوت Claude معرفی می‌کرد. این مسئله نشان می‌دهد که متن اطلاعات هویتی از روی یک نمونه کپی شده و برای هر عامل به‌طور اختصاصی تهیه نشده است.
اسکنر همچنین از میان فهرستی شامل حدود ۹۰ مسیر، فایل‌های پیکربندی، فایل‌های حاوی اطلاعات دسترسی به خدمات ابری و کلیدهای خصوصی SSH را درخواست می‌کرد؛ درحالی‌که نه هویت خود را اعلام می‌کرد و نه نشانی تماسی ارائه می‌داد. خدمات معتبر اسکن اینترنت به چنین فایل‌هایی نیازی ندارند و همواره هویت خود را مشخص می‌کنند.
کالین هوگ-اسپیرز، مدیر ارشد مدیریت راهکارها در شرکت امنیتی Black Duck، می‌گوید: «همین درخواست‌ها بود که ماهیت آن را آشکار کرد.» به گفته او، این یعنی «آنچه Cequence مستند کرده، مرحله آزمایش است، نه وقوع یک نفوذ موفق».
حساب‌های مالی در معرض خطر
اما اگر عامل‌های هوش مصنوعی که شبکه‌ها را اسکن می‌کنند موفق شوند از سد دفاعی عبور کنند، چه اتفاقی می‌افتد؟ این پرسش به دغدغه‌ای جدی برای سازمان‌ها، به‌ویژه بانک‌ها و مؤسسات مالی، تبدیل شده است. کارشناسان بیش از پیش نگران‌اند که عامل‌های خودسر از هم‌اکنون، بدون اطلاع این سازمان‌ها، به حساب مشتریان وارد شوند. چنین فعالیت‌هایی می‌تواند پیامدهایی در سطح اقتصاد جهانی داشته باشد.
در حال حاضر، یافته‌های CQ Prime Research نشان می‌دهد که در مؤسسات خدمات مالی، درخواست‌های مربوط به عامل‌های هوش مصنوعی که از طرف مشتریان فعالیت می‌کنند، کمتر از یک درخواست از هر چهار هزار درخواست را تشکیل می‌دهند. گلیزر در گزارش می‌نویسد: «عامل‌هایی که بیش از همه بانک‌ها را نگران می‌کنند، با استفاده از اطلاعات ورود خود مشتری و از طریق یک مرورگر معمولی وارد حساب می‌شوند و هویت خود را اعلام نمی‌کنند.»
در چنین شرایطی، مؤسسات مالی باید اقداماتی را برای تشخیص عامل‌های هوش مصنوعی معتبر از عامل‌های جعلی آغاز کنند. بااین‌حال، به گفته شین بارنی، مدیر ارشد امنیت اطلاعات در شرکت Keeper Security، حتی اگر این مؤسسات همین حالا دست‌به‌کار شوند، ممکن است از فعالیت مهاجمان عقب افتاده باشند.
بارنی می‌گوید: «بانک‌ها در حال حاضر با شتاب تلاش می‌کنند بفهمند کدام ربات‌های هوش مصنوعی باید در شبکه‌هایشان مجاز باشند، اما مجرمان سایبری از قبل وارد مرحله بعدی شده‌اند. آن‌ها دیگر تلاش نمی‌کنند به این سامانه‌ها نفوذ کنند؛ در عوض، با جعل هویت عامل‌های هوش مصنوعی مورداعتماد، به‌سادگی وارد آن‌ها می‌شوند.»
راهکارهای مقابله با جعل هویت عامل‌های هوش مصنوعی
بارنی پیشنهاد می‌کند که مدیران امنیتی برای مدیریت عامل‌های هوش مصنوعی، کلیدهای API و حساب‌های کاربری سرویس، همان دقت و انضباط عملیاتی را به کار بگیرند که برای حساب‌های مدیران انسانی در نظر می‌گیرند. او می‌گوید: «برای این کار باید اعتماد ضمنی را در تمام مسیرهای دسترسی از میان برد.»
بر اساس توصیه CQ Prime Research، سازمان‌ها نباید صرفاً به هویتی که یک ربات برای خود ادعا می‌کند اعتماد کنند. آن‌ها باید هویت عامل‌ها را از طریق درخواست‌های امضاشده، محدوده‌های آدرس IP اعلام‌شده یا یکپارچه‌سازی‌های مستقیم تأیید کنند.
سازمان‌ها همچنین باید رفتارهایی را زیر نظر بگیرند که با هویت ادعاشده عامل مطابقت ندارند. گلیزر در گزارش می‌نویسد: «برای مثال، باید به درخواست یک دستیار هوش مصنوعی برای دسترسی به فایل‌های پیکربندی یا اطلاعات ورود حساس توجه کرد.»
سازمان‌ها باید از نگهداری اطلاعات دسترسی ثابت در فایل‌های آسیب‌پذیری که ربات‌های اسکن‌کننده به‌آسانی می‌توانند آن‌ها را پیدا و استخراج کنند نیز خودداری کنند تا شکاف‌های امنیتی آشکار برطرف شوند. بارنی می‌گوید: «تیم‌های امنیتی باید به‌جای استفاده از اطلاعات دسترسی محلی با عمر طولانی، به سمت مخازن متمرکز و امن نگهداری اسرار با معماری دانش صفر حرکت کنند.»