امنیت هوش مصنوعی؛ کراوداسترایک برای متوقف‌کردن عامل‌های غیرمجاز دکمه توقف اضطراری اضافه کرد

dmarketforces.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

امنیت هوش مصنوعی؛ کراوداسترایک برای متوقف‌کردن عامل‌های غیرمجاز کلید توقف اضطراری اضافه کرد

شرکت کراوداسترایک از عرضه قابلیت «کلید توقف اضطراری هوش مصنوعی» در محصول Falcon Guardian خبر داده است. این قابلیت می‌تواند عامل‌های هوش مصنوعی غیرمجاز را در درگاه ورودی متوقف کند و مانع از اجرای مجدد آن‌ها در سراسر سازمان شود.

به گفته کراوداسترایک، این به‌روزرسانی با ترکیب سیاست‌های کنترلی در سطح عامل، بازرسی شبکه و محافظت از نقاط پایانی، دستورها و ارتباطات عامل‌های هوش مصنوعی را به اقداماتی پیوند می‌دهد که این عامل‌ها در عمل انجام می‌دهند.

درگاه هوش مصنوعی Guardian اکنون به‌صورت عمومی در دسترس قرار گرفته و بدون هزینه اضافی در این محصول گنجانده شده است. این درگاه، درخواست‌ها و پاسخ‌ها را بررسی می‌کند، میزان استفاده را زیر نظر می‌گیرد و سیاست‌های امنیتی را در دستگاه‌های مدیریت‌شده و مدیریت‌نشده اعمال می‌کند.

قابلیت‌های اتصال در سطح عامل نیز از ابزارهایی مانند Claude Code، OpenAI Codex، GitHub Copilot و Cursor پشتیبانی می‌کنند. امکانات تکمیلی این مجموعه برای مقابله با حملات تزریق دستور (Prompt Injection)، دستورهای مخرب، افشای اطلاعات شخصی حساس و مهارت‌های مخرب هوش مصنوعی و سرورهای MCP طراحی شده‌اند.

قابلیت بازرسی ترافیک شبکه در نقاط پایانی، اکنون برای ویندوز به‌صورت عمومی عرضه شده و نسخه مک آن در مرحله دسترسی زودهنگام قرار دارد. کراوداسترایک می‌گوید ترکیب نظارت بر شبکه و نقاط پایانی، خلأهای امنیتی رویکردهایی را برطرف می‌کند که صرفاً بر پایش شبکه متکی هستند؛ به‌ویژه در شرایطی که عامل‌های هوش مصنوعی از مدل‌های محلی و بدون اتصال به شبکه استفاده می‌کنند.

از دیگر برنامه‌های این شرکت می‌توان به توسعه کنترل‌های دسترسی مبتنی بر هویت و گسترش حفاظت امنیتی به بارهای کاری ابری، نرم‌افزارهای سرویس‌محور (SaaS) و چارچوب‌های عامل‌های هوش مصنوعی در فضای ابری اشاره کرد.

خرید برنامه‌ریزی‌شده شرکت Fiddler از سوی کراوداسترایک نیز می‌تواند قابلیت مشاهده‌پذیری عامل‌های هوش مصنوعی را به این مجموعه اضافه کند. این قابلیت به سازمان‌ها امکان می‌دهد پیش از استقرار عامل‌ها، عملکرد آن‌ها را ارزیابی کنند و دلیل انجام اقداماتشان را بهتر درک کنند.

این معامله همچنان به تحقق شرایط نهایی‌شدن خرید وابسته است و عرضه قابلیت‌های مورد انتظار نیز به یکپارچه‌سازی فناوری Fiddler بستگی دارد.

کراوداسترایک اعلام کرده است که با خرید برنامه‌ریزی‌شده Fiddler AI، شرکتی پیشرو در زمینه مشاهده‌پذیری عامل‌های هوش مصنوعی، گسترده‌ترین مجموعه قابلیت‌های امنیت و ایمنی عامل‌های هوش مصنوعی در صنعت را از طریق پلتفرم Falcon ارائه خواهد کرد.

مایکل سنتوناس، رئیس کراوداسترایک، در این‌باره گفت: «همه سازمان‌ها با شتاب در تلاش‌اند بهره بیشتری از هوش مصنوعی ببرند و ما هر هفته شاهد هستیم که عامل‌ها چندین مرحله از کار را به یکدیگر زنجیر می‌کنند، با مانعی روبه‌رو می‌شوند و اقداماتی انجام می‌دهند که هرگز مجوز آن‌ها را نداشته‌اند.»

او افزود: «برای متوقف‌کردن چنین رفتارهایی، یک نقطه کنترلی کافی نیست. باید خود عامل، شبکه و نقطه پایانی را در کنار یکدیگر در نظر گرفت. به این ترتیب، امنیت به عاملی برای تسهیل پذیرش هوش مصنوعی تبدیل می‌شود، نه مانعی در برابر آن.»

روش‌های مبتنی بر اتصال مستقیم به عامل، امکان مشاهده درخواست ورودی را فراهم می‌کنند، اما پاسخ مدل را نمی‌بینند و نمی‌توانند همه اقداماتی را که عامل انجام می‌دهد شناسایی کنند. از سوی دیگر، راهکارهایی که صرفاً بر شبکه متمرکز هستند، ترافیک را زیر نظر می‌گیرند، اما قادر به متوقف‌کردن اقدام عامل نیستند؛ زیرا اجرای عملیات در نقطه پایانی دستگاه انجام می‌شود، نه در شبکه.