اسپکترآپز و OpenAI دوره آموزشی امنیت هوش مصنوعی راه‌اندازی کردند
تاریخ انتشار: ۱۵ اکتبر ۲۰۲۶
نویسنده: جوزف گابریل لاگونسین، دبیر اخبار
شرکت اسپکترآپز (SpecterOps) با همکاری OpenAI و در چارچوب شبکه دفاعی Daybreak این شرکت، دوره آموزشی جدیدی در زمینه امنیت هوش مصنوعی راه‌اندازی کرده است.
این دوره با عنوان Adversary Intelligence: LLM Tradecraft، به معنای «اطلاعات تهدیدات مهاجمان: فنون کار با مدل‌های زبانی بزرگ»، بخشی از برنامه آموزشی Tradecraft Academy شرکت اسپکترآپز است و برای متخصصان امنیتی طراحی شده که با مدل‌های زبانی بزرگ (LLM) و سامانه‌های هوش مصنوعی عامل‌محور کار می‌کنند. دوره شامل آزمایشگاه‌های عملی در زمینه مدل‌سازی تهدید، آزمون امنیت، مهندسی معکوس و فرایندهای کاری امنیت دفاعی است.
شرکت‌کنندگان همچنین به ابزار Codex و جدیدترین مدل‌های OpenAI دسترسی خواهند داشت. محتوای دوره به‌گونه‌ای طراحی شده است که متخصصان بتوانند تجربه عملی لازم برای ساخت، ارزیابی، آزمایش و محافظت از سامانه‌های هوش مصنوعی مورد استفاده در سازمان‌ها را به دست آورند.
راه‌اندازی این دوره در شرایطی صورت می‌گیرد که کسب‌وکارهای بیشتری از ابزارهای هوش مصنوعی در فعالیت‌های روزمره خود استفاده می‌کنند و تیم‌های امنیتی با خطرات تازه‌ای ناشی از تعاملات ماشینی، ابزارهای خودکار و افزایش تعداد هویت‌های سیستمی روبه‌رو شده‌اند. هدف این دوره، برطرف کردن کمبود دانش متخصصان درباره نحوه عملکرد این سامانه‌ها، نقاط احتمالی شکست آن‌ها و شیوه‌هایی است که مهاجمان ممکن است برای حمله به آن‌ها به کار بگیرند.
به گفته اسپکترآپز، این دوره هشت ساعت محتوای آموزشی دارد و هر دو جنبه تهاجمی و دفاعی امنیت هوش مصنوعی را پوشش می‌دهد. مباحث آن شامل معماری و محدودیت‌های مدل‌های زبانی بزرگ و سامانه‌های عامل‌محور، روش‌های رایج حمله مانند تزریق پرامپت (Prompt Injection) و دور زدن محدودیت‌های امنیتی مدل‌ها (Jailbreak) و همچنین کاربرد هوش مصنوعی در آزمون‌های امنیتی و مهندسی معکوس است.
وونان لی (Wunan Li)، از بخش مشارکت‌های جهانی سایبری OpenAI، درباره رویکرد این برنامه آموزشی توضیح داد.
لی گفت: «کسب تجربه عملی برای درک چگونگی استفاده مؤثر از هوش مصنوعی در امنیت سایبری ضروری است. دوره Adversary Intelligence: LLM Tradecraft که پژوهشگران تهدیدات هوش مصنوعی اسپکترآپز با استفاده از جدیدترین مدل‌های OpenAI طراحی کرده‌اند، دانش و مهارت لازم را در اختیار متخصصان امنیت قرار می‌دهد تا بتوانند تغییرات محیط‌های سازمانی را پیش‌دستانه مدیریت کنند.»
اسپکترآپز این دوره را در مجموعه گسترده‌تری از آموزش‌های تخصصی خود برای فعالان امنیت سایبری قرار داده است. این شرکت از طریق Tradecraft Academy دوره‌های آموزشی زنده و قابل‌دسترسی در زمان دلخواه ارائه می‌کند. از جمله این دوره‌ها می‌توان به مدیریت مسیرهای حمله با استفاده از BloodHound، امنیت زنجیره تأمین نرم‌افزار و آموزش کوبرنتیز (Kubernetes) برای اعضای تیم‌های قرمز امنیتی اشاره کرد.
محورهای اصلی دوره آموزشی
این دوره بر سه حوزه اصلی تمرکز دارد. حوزه نخست، ساخت و ارزیابی مدل‌های زبانی بزرگ و سامانه‌های عامل‌محور است که بررسی طراحی، محدودیت‌ها و پیامدهای امنیتی این سامانه‌ها را در بر می‌گیرد.
حوزه دوم به روش‌های تهاجمی علیه سامانه‌های هوش مصنوعی اختصاص دارد. این بخش حملاتی مانند تزریق پرامپت، دور زدن محدودیت‌های امنیتی مدل‌ها و ضعف‌های زیرساخت هوش مصنوعی را بررسی می‌کند که مهاجمان ممکن است از آن‌ها سوءاستفاده کنند.
حوزه سوم به کاربرد هوش مصنوعی در فعالیت‌های دفاعی امنیت سایبری می‌پردازد. مدل‌سازی تهدید، آزمون امنیت و مهندسی معکوس با کمک هوش مصنوعی و با استفاده از مدل‌های OpenAI از جمله موضوعات این بخش هستند.
اندرو چایلز (Andrew Chiles)، معاون بخش Tradecraft شرکت اسپکترآپز، گفت هدف این برنامه آن است که متخصصان از مرحله استفاده صرف از ابزارهای هوش مصنوعی فراتر بروند و درک روشن‌تری از خطرات و نقاط ضعف این فناوری‌ها پیدا کنند.
چایلز گفت: «از متخصصان امنیت بیش از گذشته خواسته می‌شود با مدل‌های زبانی بزرگ و سامانه‌های عامل‌محور کار کنند. اما استفاده مؤثر از این فناوری‌ها مستلزم آن است که بدانند این سامانه‌ها چگونه کار می‌کنند، در چه شرایطی ممکن است دچار مشکل شوند و یک مهاجم چگونه می‌تواند به آن‌ها حمله کند.»
او افزود: «فاصله میان استفاده از هوش مصنوعی و درک واقعی آن می‌تواند نقاط کور امنیتی ایجاد کند. ما دوره Adversary Intelligence: LLM Tradecraft را طراحی کردیم تا با فراهم کردن تجربه عملی، این شکاف را برطرف کنیم. هدف آن است که متخصصان دانش پایه لازم را برای ارزیابی نقادانه این سامانه‌ها به دست آورند و بتوانند درباره ساخت، ارزیابی و ایمن‌سازی آن‌ها تصمیم‌های آگاهانه بگیرند.»
اسپکترآپز بیش از همه به‌عنوان سازنده ابزار BloodHound شناخته می‌شود؛ ابزاری که برای تحلیل مسیرهای حمله مرتبط با هویت‌های کاربری و سیستمی در محیط‌های سازمانی به کار می‌رود. فعالیت‌های گسترده‌تر این شرکت بر کمک به سازمان‌ها برای شناخت خطرات مرتبط با هویت در سامانه‌های هوش مصنوعی و محیط‌های ترکیبی متمرکز است.
افزوده شدن دوره‌ای ویژه هوش مصنوعی به مجموعه آموزش‌های این شرکت، بازتاب‌دهنده رشد بازار آموزش‌های تخصصی امنیت است؛ بازاری که هم‌زمان با ورود هوش مصنوعی مولد و عامل‌های نرم‌افزاری خودمختار به فرایندهای داخلی شرکت‌ها گسترش یافته است. این تغییر باعث شده تقاضای تیم‌های امنیتی برای آموزش‌های عملی افزایش یابد؛ آموزش‌هایی که به آن‌ها کمک می‌کند رفتار این سامانه‌ها، روش‌های آزمایش امنیتی آن‌ها و نقاط آسیب‌پذیر در برابر سوءاستفاده را بهتر بشناسند.
شرکت‌کنندگان به مدت ۳۰ روز به محتوای دوره آموزشی دسترسی خواهند داشت و علاوه بر آن، یک دوره دسترسی جداگانه ۳۰روزه به ابزار Codex دریافت می‌کنند.