ناتو برای حفاظت از شبکه‌های ائتلاف از مدل‌های OpenAI استفاده می‌کند؛ آموزش مدافعان سایبری با عوامل هوش مصنوعی

defence-industry.eu

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

ناتو در فعالیت‌های امنیت سایبری خود با همکاری OpenAI، ماهانه تا ۳۰۰ میلیارد توکن ورودی و خروجی مصرف کرده است. این شرکت با آژانس ارتباطات و اطلاعات ناتو همکاری می‌کند تا نهادهای اصلی این ائتلاف به مدل‌های هوش مصنوعی دسترسی داشته باشند؛ مدل‌هایی که می‌توانند به حفاظت از شبکه‌های آن کمک کنند.

ناتو از مدل‌های OpenAI برای حفاظت از شبکه‌های ائتلاف استفاده می‌کند و مدافعان سایبری با عوامل هوش مصنوعی آموزش می‌بینند
تصویر: ناتو

دیلان براون، مدیرکل آژانس ارتباطات و اطلاعات ناتو، گفت این مدل‌ها می‌توانند به این ائتلاف کمک کنند تا آسیب‌پذیری‌ها را سریع‌تر شناسایی کند و تهدیدهای نوظهور را زودتر تشخیص دهد. با گسترش استفاده از این فناوری‌ها، آژانس قصد دارد میزان پردازش انجام‌شده توسط مدل‌ها و هزینه‌های مربوط به آن را نیز بررسی کند.

براون گفت: «با گسترش استفاده از این فناوری‌ها، درک دقیق‌تری از میزان مصرف توکن، الگوهای استفاده و اقتصاد زیربنایی مدل‌های هوش مصنوعی به دست خواهیم آورد. این اطلاعات به ما کمک می‌کند هزینه‌ها را بهینه کنیم، راهکارهای رقیب را ارزیابی کنیم و تصمیم‌های آگاهانه‌تری درباره خرید و تأمین فناوری بگیریم.»

ابزار Daybreak شرکت OpenAI امکاناتی در اختیار مدافعان سایبری مجاز قرار می‌دهد تا نرم‌افزارها را بررسی کنند، فعالیت‌های مشکوک را مورد تحقیق قرار دهند، آسیب‌پذیری‌ها را تأیید کنند و راهکارهای اصلاحی را بیازمایند. ساشا بیکر، رئیس سیاست‌گذاری امنیت ملی OpenAI، گفت: «با Daybreak ابزارهای توانمندتری در اختیار این متخصصان قرار می‌دهیم تا بتوانند آسیب‌پذیری‌ها را پیش از آنکه مهاجمان از آن‌ها سوءاستفاده کنند، شناسایی و برطرف کنند.»

در رزمایش Crossed Swords سال ۲۰۲۶، شرکت‌کنندگان از Daybreak برای ساخت، استقرار و ارزیابی عوامل هوش مصنوعی در عملیات سایبری استفاده کردند. این رزمایش را مرکز تعالی دفاع سایبری تعاونی ناتو برگزار کرد و در چارچوب آن، یک بخش آموزشی جدید نیز در نظر گرفته شد که شرکت‌کنندگان در آن در کنار عوامل هوش مصنوعی فعالیت می‌کردند، اما نظارت انسانی بر فرایندها را حفظ می‌کردند.

OpenAI اعلام کرد دسترسی به مدل‌های خود را در اختیار آژانس امنیت سایبری اتحادیه اروپا (ENISA) و نهادهای ملی امنیت سایبری فرانسه، آلمان و لهستان نیز قرار داده است. در اوکراین هم وزارت تحول دیجیتال این کشور از Daybreak برای کمک به تیم‌های فنی در شناسایی نقص‌های نرم‌افزاری و توسعه و آزمایش راهکارهای اصلاحی استفاده می‌کند؛ این اقدامات سامانه‌هایی را هدف قرار می‌دهند که از خدمات ضروری غیرنظامی پشتیبانی می‌کنند.

به گفته OpenAI، آژانس ENISA با استفاده از مدل‌های این شرکت چهار آسیب‌پذیری را در نرم‌افزارهای مورد استفاده در نهادهای مختلف اتحادیه اروپا شناسایی کرده است و برای هر چهار مورد، اصلاحیه منتشر شده است. در گزارشی جداگانه که ENISA و CERT-EU در ماه نوامبر منتشر کردند، ۲۷ پروژه نرم‌افزاری بررسی شده‌اند. در این بررسی از چندین مدل هوش مصنوعی، از جمله مدل‌های OpenAI که از طریق Daybreak در دسترس بودند، و ابزارهایی مانند افزونه امنیتی Codex استفاده شده است.

در مجموع، نگه‌دارندگان نرم‌افزار تأیید کردند که ۹۵ درصد از ۸۸ مورد مشکوکی که در جریان آزمایش مدل‌ها شناسایی شده بود، آسیب‌پذیری یا مشکل واقعی بوده‌اند. در لهستان نیز تیم CERT Polska با کمک مدل‌های OpenAI شش آسیب‌پذیری را در نرم‌افزار MikroTik RouterOS شناسایی کرد و فرایند افشای هماهنگ این موارد را با شرکت سازنده پیش برد.

پژوهشگران CERT Polska هدایت این بررسی‌ها را بر عهده داشتند و یافته‌های خود را روی سامانه‌های واقعی آزمایش کردند؛ در این فرایند، از هوش مصنوعی برای سرعت بخشیدن به تحلیل‌ها بهره گرفتند. شرکت MikroTik اصلاحیه‌هایی منتشر کرد که CERT Polska تأیید کرد مانع حملاتی می‌شوند که این نهاد پیش‌تر مشاهده کرده بود.