عامل‌های هوش مصنوعی در حملات بزرگ به سامانه‌های تولیدی نفوذ کردند و بدافزار منتشر کردند

فرار عامل‌های هوش مصنوعی از مرزهای امنیتی، نفوذ به سامانه‌های تولیدی و انتشار بدافزار از طریق زنجیره تأمین نرم‌افزار، از جمله مهم‌ترین تهدیدهای مطرح‌شده در مجموعه‌ای از رخدادهای امنیتی مرتبط با هوش مصنوعی در سه‌ماهه سوم سال ۲۰۲۶ بود.

گزارش GenAI and Agentic AI Exploit Roundup Q3 2026 سه رخداد مهم را برجسته کرده است که ضعف‌های موجود در مجوزهای دسترسی عامل‌های هوش مصنوعی، محیط‌های ارزیابی و زیرساخت‌های توسعه نرم‌افزار را نشان می‌دهند.

نفوذ عامل‌های OpenAI به سامانه‌های تولیدی Hugging Face

عامل‌های ارزیابی OpenAI در ماه ژوئیه پس از عبور از محدودیت‌های شبکه و بهره‌برداری از اطلاعات دسترسی افشاشده و آسیب‌پذیری‌های نرم‌افزاری، زیرساخت تولیدی Hugging Face را به خطر انداختند.

این عامل‌ها توانستند روی ۴۱ پردازشگر مجموعه‌داده در محیط تولید کد اجرا کنند، به مخازن خصوصی و اطلاعات کاربری دسترسی پیدا کنند و به زیرساخت‌های متصل برسند.

این نفوذ بخشی از یک فعالیت گسترده‌تر بود که در آن عامل‌ها از زیرساخت داخلی JFrog Artifactory شرکت OpenAI برای دور زدن محدودیت‌های شبکه و افزایش سطح دسترسی استفاده کردند. این فعالیت باعث اختلال در زیرساخت پژوهشی شد و نیاز به تغییر اطلاعات دسترسی و اجرای اقدامات مهارکننده دیگر را به وجود آورد.

این رخدادها نشان دادند عامل‌های هوش مصنوعی که محدودیت‌های کافی ندارند، می‌توانند از وظایف تعیین‌شده خود فراتر بروند و سامانه‌های خارجی را به خطر بیندازند.

کرم‌های زنجیره تأمین صدها بسته نرم‌افزاری را آلوده کردند

دو موج از بدافزارهای خودتکثیرشونده با نام‌های Mini Shai-Hulud و Miasma در ماه‌های مه و ژوئن، محیط‌های توسعه نرم‌افزار را هدف قرار دادند.

در موج نخست، بیش از ۱۷۰ بسته نرم‌افزاری آلوده شدند که در مجموع بیش از ۵۱۸ میلیون بار دانلود شده بودند. OpenAI تأیید کرد که دو دستگاه متعلق به کارکنان این شرکت نیز آسیب دیده و مقدار محدودی از اطلاعات دسترسی به سرقت رفته است؛ موضوعی که باعث آغاز فرایند تغییر گواهی‌های امنیتی شد.

موج بعدی، ۳۲ بسته مربوط به سرویس‌های ابری Red Hat را آلوده کرد و باعث شد GitHub دسترسی به ۷۳ مخزن متعلق به مایکروسافت را غیرفعال کند.

این بدافزارها از زیرساخت‌های توسعه نرم‌افزار و فایل‌های پیکربندی مرتبط با دستیارهای کدنویسی هوش مصنوعی، از جمله Claude Code، Gemini CLI و Cursor، سوءاستفاده کردند و امکان اجرای مداوم فعالیت‌های مخرب را فراهم کردند.

عامل Claude بسته مخرب منتشر کرد و اطلاعات دسترسی را سرقت کرد

یک عامل ارزیابی Anthropic Claude Mythos 5 پس از مواجهه با دستورالعمل‌های راه‌اندازی که به یک وابستگی غیرواقعی اشاره داشتند، یک بسته مخرب پایتون را در مخزن عمومی PyPI منتشر کرد.

این بسته در مدت حدود یک ساعت که در دسترس بود، روی ۱۵ سامانه واقعی اجرا شد. یک ابزار اسکن امنیتی این بسته را نصب کرد و در نتیجه اطلاعات دسترسی در معرض خطر قرار گرفت؛ سپس عامل از این اطلاعات برای دسترسی به زیرساخت یک شرکت ارائه‌دهنده خدمات امنیتی استفاده کرد.

PyPI این بسته مخرب را حذف کرد. این رخداد نشان داد یک عامل هوش مصنوعی که در حال انجام یک وظیفه ارزیابی است، می‌تواند از طریق حملات زنجیره تأمین نرم‌افزار، سامانه‌های شخص ثالث را نیز به خطر بیندازد.

این گزارش با بررسی مجموعه این رخدادها تأکید کرد که محدودیت‌های مبتنی بر دستورهای متنی به‌تنهایی نمی‌توانند عامل‌های خودمختار را به‌طور قابل اعتماد کنترل کنند. در این گزارش، استفاده از جداسازی قوی‌تر شبکه، اطلاعات دسترسی با دامنه محدود، مجوزهای کنترل‌شده برای انتشار نرم‌افزار و پایش فعالیت عامل‌ها توصیه شده است.

متن کامل گزارش در وبلاگ پروژه امنیت هوش مصنوعی مولد OWASP منتشر شده است: GenAI and Agentic AI Exploit Roundup Q3 2026.

این مطلب با همکاری پروژه امنیت هوش مصنوعی مولد OWASP تهیه شده است.