هوش مصنوعی OpenAI در شرکت بلاک؛ شبیه‌سازی زنجیره حملات امنیتی در دو ساعت

نویسنده: سوفیا لیندستروم | ۱۵ اکتبر ۲۰۲۶

شرکت بلاک، مالک اسکوئر، کش‌اپ و افترپی، روز ۱۴ اکتبر ۲۰۲۶ تأیید کرد که تیم امنیتی این شرکت با استفاده از زیرساخت OpenAI، سامانه‌ای دفاعی مبتنی بر هوش مصنوعی ساخته است که می‌تواند زنجیره‌ای از حملات چندمرحله‌ای را در محیطی شبیه‌سازی‌شده، از تزریق SQL و افزایش سطح دسترسی گرفته تا نفوذ به سامانه‌های دیگر، در حدود دو ساعت اجرا کند. این خبر که بلاک و OpenAI به‌صورت مشترک منتشر کردند، یکی از روشن‌ترین نمونه‌های عمومی از واگذاری بخش‌های مهم کشف آسیب‌پذیری، شناسایی تهدید و واکنش امنیتی به عامل‌های خودمختار هوش مصنوعی در یک شرکت بزرگ فناوری مالی است؛ البته تأیید نهایی اجرای هر اصلاح امنیتی همچنان بر عهده انسان باقی می‌ماند.

این خبر در شرایطی منتشر شده که تیم‌های امنیتی شرکت‌های فناوری مالی از دو سو تحت فشار فزاینده قرار دارند. مهاجمان با استفاده از هوش مصنوعی مولد، کدهای بهره‌برداری از آسیب‌پذیری‌ها را سریع‌تر تولید می‌کنند و در مقابل، مدافعان برای محافظت از زیرساخت‌های ابری گسترده و سامانه‌های قدیمی با دشواری بیشتری روبه‌رو هستند. رویکرد بلاک که بر پایه برنامه Defense Factory شرکت OpenAI و چارچوبی برای هدایت وظایف میان مدل‌های مختلف به نام Daybreak شکل گرفته، از سوی هر دو شرکت به‌عنوان الگویی برای آینده فعالیت تیم‌های امنیت سازمانی معرفی می‌شود.

بلاک و OpenAI دقیقاً چه چیزی اعلام کردند؟

بر اساس اطلاعیه مشترک دو شرکت، واحد امنیت بلاک اکنون برای بخش‌های اصلی فرایند مدیریت آسیب‌پذیری‌های خود از برنامه Defense Factory شرکت OpenAI استفاده می‌کند. این فعالیت‌ها شامل شناسایی نقاط ضعف در کدهای نرم‌افزاری، تشخیص تهدیدهای فعال و واکنش به رخدادهای امنیتی است. بخش محوری این فرایند سامانه‌ای به نام Daybreak است که بلاک و OpenAI آن را به‌صورت مشترک توسعه داده‌اند. Daybreak به یک مدل هوش مصنوعی محدود نیست؛ بلکه هر وظیفه را به مناسب‌ترین سامانه OpenAI ارجاع می‌دهد. به این ترتیب، بسته به اینکه کار موردنظر تحلیل ایستای کد، شبیه‌سازی بهره‌برداری از آسیب‌پذیری یا بررسی اولیه گزارش یک رخداد با استفاده از زبان طبیعی باشد، مدل متفاوتی انتخاب می‌شود.

در طراحی این سامانه دو ویژگی اهمیت ویژه‌ای دارد. نخست اینکه مهندسان بلاک می‌توانند در هر مرحله فرایند خودکار را متوقف کنند و مستقیماً کنترل آن را به دست بگیرند؛ بنابراین مجبور نیستند تا پایان فعالیت هوش مصنوعی منتظر بمانند. ویژگی دوم، امکان راستی‌آزمایی میان عامل‌های هوش مصنوعی است؛ به این معنا که یک عامل، نتیجه کار عامل دیگر را بررسی می‌کند تا پیش از اقدام عملی، میزان اعتمادپذیری آن مشخص شود. این لایه کنترلی اهمیت زیادی دارد، زیرا به یکی از انتقادهای رایج درباره ابزارهای امنیتی عامل‌محور پاسخ می‌دهد: اینکه یک مدل ممکن است آسیب‌پذیری ناموجودی را گزارش کند یا آسیب‌پذیری واقعی را تشخیص ندهد، بی‌آنکه سازوکاری مستقل برای بررسی نتیجه وجود داشته باشد.

سه برند اصلی بلاک شامل اسکوئر در حوزه پرداخت‌های تجاری، کش‌اپ در زمینه انتقال پول میان افراد و افترپی در حوزه خدمات «اکنون بخر، بعداً پرداخت کن»، همگی زیر نظر یک واحد امنیتی مشترک فعالیت می‌کنند. بنابراین Daybreak آزمایشی محدود به یک محصول خاص نیست. این سامانه با زیرساخت‌هایی سروکار دارد که پردازش پرداخت‌ها و مدیریت حجم گسترده‌ای از اطلاعات مالی شخصی را بر عهده دارند. همین گستردگی فعالیت‌ها یکی از دلایلی است که دو شرکت تصمیم گرفته‌اند این همکاری را علنی کنند و آن را صرفاً موضوعی فنی و داخلی نگه ندارند.

نگاهی به برنامه Defense Factory شرکت OpenAI

Defense Factory عنوان برنامه جامع OpenAI برای به‌کارگیری مستقیم مدل‌های هوش مصنوعی در دفاع سایبری است. بلاک یکی از شرکت‌هایی است که به‌طور رسمی به‌عنوان استفاده‌کننده عملیاتی این برنامه معرفی شده و کاربرد آن به محیط‌های آزمایشی محدود نیست. بر اساس توضیحات OpenAI، تمرکز این برنامه بر تولید اصلاحات امنیتی تأییدشده است، نه صرفاً تهیه فهرستی از آسیب‌پذیری‌های احتمالی. این تفاوت برای تیم‌های امنیتی که همین حالا با انبوهی از هشدارهای اولویت‌بندی‌نشده ابزارهای اسکن روبه‌رو هستند، اهمیت زیادی دارد. گزارشی از یک آسیب‌پذیری که هیچ‌کس فرصت بررسی آن را ندارد، تقریباً بی‌فایده است؛ اما وصله‌ای که اعتبار آن تأیید شده و در برابر امکان بهره‌برداری از نقص امنیتی آزمایش شده باشد، می‌تواند بلافاصله مبنای اقدام قرار گیرد.

این اولویت در فرایندی که بلاک برای فعالیت‌های امنیتی خود توصیف می‌کند نیز دیده می‌شود. به گفته مدیران امنیتی شرکت، کار در قالب چرخه‌ای مشخص پیش می‌رود: ابتدا وصله‌ای پیشنهاد می‌شود، سپس امکان بهره‌برداری واقعی از آسیب‌پذیری بررسی می‌شود و در نهایت تأیید می‌کنند که وصله توانسته نقص موردنظر را برطرف کند. در تمام این مراحل، انسان بر فرایند نظارت دارد و تصمیم نهایی برای استقرار تغییرات را می‌گیرد. این شیوه آگاهانه با ابزارهای قدیمی مدیریت آسیب‌پذیری تفاوت دارد؛ ابزارهایی که معمولاً کارشان به شناسایی مشکل ختم می‌شود و رفع آن را به مهندسان انسانی و فهرست بلند وظایف معوق آنان واگذار می‌کنند.

جیمز نتسهایم، مدیر ارشد امنیت اطلاعات بلاک، این تغییر رویکرد را چنین توضیح داد: «شما وصله‌ای پیشنهاد می‌کنید، امکان بهره‌برداری از آسیب‌پذیری را تأیید می‌کنید و سپس مطمئن می‌شوید که مشکل واقعاً برطرف شده است؛ در تمام این فرایند نیز یک انسان حضور دارد که آن را هدایت می‌کند و تغییرات کد را به اجرا درمی‌آورد.» اهمیت این رویکرد در آن است که حتی با خودکارتر شدن مراحل کشف و اعتبارسنجی، مسئولیت اجرای نهایی همچنان بر عهده فردی مشخص و پاسخ‌گو باقی می‌ماند.

زنجیره حمله دوساعته؛ Daybreak در آزمایش چه کرد؟

مشخص‌ترین جزئیات فنی اعلام‌شده درباره این همکاری به یک آزمایش داخلی مربوط می‌شود. در این آزمایش، Daybreak توانست به‌طور مستقل چند مرحله حمله را به یکدیگر متصل کند. ابتدا یک آسیب‌پذیری تزریق SQL را شناسایی کرد و از آن برای دستیابی به جای پایی اولیه و افزایش سطح دسترسی استفاده کرد. سپس امکان حفظ دسترسی پایدار به محیط شبیه‌سازی‌شده را فراهم آورد، اطلاعات احراز هویت موجود در مسیر نفوذ را شناسایی و فهرست کرد و در ادامه به سامانه‌های متصل دیگر راه یافت. به گفته بلاک و OpenAI، اجرای تمام این زنجیره، از تزریق اولیه تا حرکت جانبی به سامانه‌های دیگر، حدود دو ساعت طول کشید.

اهمیت این زمان در آن است که Daybreak توانسته در مقیاسی بسیار فشرده‌تر، مسیری را طی کند که یک تیم حرفه‌ای شبیه‌سازی حمله یا تیم قرمز معمولاً چند روز برای شناسایی و ترسیم دستی آن زمان صرف می‌کند. بخش دشوار عملیات امنیت تهاجمی صرفاً پیدا کردن آسیب‌پذیری‌های جداگانه نیست؛ بلکه اتصال چند نوع نقص امنیتی به یکدیگر و درک این موضوع است که دسترسی اولیه به یک سامانه چگونه فرصت نفوذ به سامانه‌ای دیگر را فراهم می‌کند. توانایی هوش مصنوعی در پیمودن چنین زنجیره‌ای طی حدود دو ساعت، ابتدا در داخل شرکت و اکنون در سطح عمومی، به‌عنوان شاهدی بر این ادعا مطرح می‌شود که یک مدل دفاعی آموزش‌دیده برای تحلیل مسائل از دید مهاجم می‌تواند خطرات ترکیبی را آشکار کند؛ خطراتی که اسکنرهای متمرکز بر آسیب‌پذیری‌های منفرد معمولاً از شناسایی آنها بازمی‌مانند.

بااین‌حال، باید میان آنچه این آزمایش واقعاً ثابت می‌کند و ادعاهایی که هنوز شواهد کافی برای آنها وجود ندارد، تفاوت گذاشت. نتیجه آزمایش نشان می‌دهد چارچوب Daybreak می‌تواند یک الگوی شناخته‌شده حمله را در محیطی کنترل‌شده بازسازی کند. اما اطلاعات منتشرشده تاکنون ثابت نمی‌کند که وصله‌های تولیدشده با هوش مصنوعی اکنون به‌جای چند ساعت، ظرف چند دقیقه مستقر می‌شوند. همچنین مشخص نیست Daybreak چند زنجیره حمله را شناسایی کرده که پیش‌تر از دید تیم‌های انسانی پنهان مانده بوده است. احتمالاً پژوهشگران مستقل امنیتی در ماه‌های آینده خواستار انتشار چنین آمارهایی از سوی بلاک و OpenAI خواهند شد.

بازآزمایی داده‌های هفت ماه در کمتر از یک ساعت

بلاک علاوه بر آزمایش زنجیره حمله، قابلیت دیگری را معرفی کرده که ممکن است در عملیات روزمره امنیتی حتی از آزمایش پرسر‌وصدای نفوذ اهمیت بیشتری داشته باشد: امکان بازآزمایی تغییرات پیشنهادی در قوانین شناسایی تهدید با استفاده از داده‌های عملیاتی گردآوری‌شده طی هفت ماه، آن هم در کمتر از یک ساعت. برای هر تیم امنیتی که پس از فعال‌سازی یک قانون شناسایی جدید با سیلی از هشدارهای اشتباه روبه‌رو شده یا بدتر از آن، متوجه شده که قانون موردنظر دقیقاً همان الگوی تهدیدی را که باید شناسایی می‌کرده از دست داده است، چنین قابلیتی پیشرفتی مهم در عملیات امنیتی محسوب می‌شود.

در روش‌های سنتی، اعتبارسنجی یک قانون شناسایی جدید با استفاده از چند ماه داده ثبت‌شده فرایندی کند و پرهزینه از نظر منابع است. گاهی حتی برای استخراج و قالب‌بندی صحیح داده‌های پایش، به همکاری اختصاصی مهندسان داده نیاز است. کاهش این زمان به کمتر از یک ساعت به مهندسان امنیت بلاک اجازه می‌دهد منطق شناسایی تهدید را با سرعت بسیار بیشتری اصلاح و آزمایش کنند. آنها می‌توانند پیش از ورود هر قانون به سامانه عملیاتی هشداردهی، چندین گزینه را با ترافیک واقعی ثبت‌شده در گذشته بسنجند. این کار دو مشکل رایج مهندسی شناسایی تهدید را کاهش می‌دهد: خستگی ناشی از انبوه هشدارهای حاصل از قوانین بیش‌ازحد گسترده و ایجاد نقاط کور به دلیل قوانین بیش‌ازحد محدود.

قابلیت بازپخش داده‌های پایش همچنین روشن می‌کند که چرا بلاک Daybreak را یک چارچوب هماهنگ‌کننده معرفی می‌کند، نه دستیار گفت‌وگومحور متکی بر یک مدل واحد. جست‌وجو و تحلیل داده‌های عملیاتی هفت ماه در چنین زمانی، به مدل و زیرساختی نیاز دارد که برای تطبیق الگوها در مقیاس بزرگ مناسب باشد. این نوع پردازش با استدلال موردنیاز برای اتصال مراحل مختلف یک زنجیره بهره‌برداری از آسیب‌پذیری تفاوت دارد. معماری Daybreak و منطق هدایت وظایف آن میان مدل‌های مختلف است که اجرای هر دو نوع فعالیت را در یک سامانه واحد ممکن می‌کند.

نظارت انسانی؛ چرا بلاک کنترل کامل را به هوش مصنوعی نمی‌سپارد؟

با وجود آنکه محور این همکاری عامل‌های خودمختار هوش مصنوعی هستند، موضوعی که در اظهارات عمومی بلاک پیوسته تکرار می‌شود، حفظ آگاهانه نقش محوری انسان در فرایندهای امنیتی است. نتسهایم هنگام توضیح چرخه پیشنهاد، تأیید و راستی‌آزمایی، به‌صراحت تأکید می‌کند که در پایان این فرایند، انسان آن را هدایت می‌کند و تغییرات کد را مستقر می‌سازد. بنابراین قرار نیست یک عامل هوش مصنوعی با اختیار مستقل، کد را مستقیماً وارد محیط عملیاتی کند. برای شرکتی که در مقیاس بلاک داده‌های پرداخت را پردازش می‌کند، این تصمیم نشان‌دهنده رویکردی محتاطانه در طراحی سامانه است.

نتسهایم در توضیح منطق راهبردی این رویکرد، آن را بخشی از تغییر موازنه سرعت میان مهاجمان و مدافعان در امنیت سایبری دانست. او در اظهاراتی که در گزارش منتشرشده OpenAI درباره این همکاری آمده، گفت: «هوش مصنوعی فاصله زمانی میان تصمیم انسان و اقدام عملی را کوتاه می‌کند. مدتی این تصور وجود داشت که مهاجمان دست برتر را دارند، چون سریع‌تر و چابک‌تر هستند. اما با ابزارهایی مانند Daybreak و پیشرفت ابزارهای OpenAI، مدافعان می‌توانند با همان ابزارها به مقابله برخیزند و همگام با سرعت بالای گسترش استفاده از هوش مصنوعی حرکت کنند.» بلاک نیز در وبلاگ رسمی خود توضیحی درباره این همکاری منتشر کرده و هوش مصنوعی را عاملی مؤثر در دگرگون شدن شیوه محافظت از مشتریان شرکت معرفی کرده است؛ تعبیری که شباهت زیادی به توصیف OpenAI از اهداف Defense Factory دارد.

قابلیت واگذاری فوری کنترل Daybreak به انسان، صرفاً ویژگی ایمنی اضافه‌شده برای جذاب‌تر کردن اطلاعیه خبری نیست. این قابلیت پاسخی به یک واقعیت عملی است: عامل هوش مصنوعی که بتواند به‌صورت مستقل اطلاعات احراز هویت را شناسایی کند و میان سامانه‌ها جابه‌جا شود، حتی اگر این فعالیت را در محیط آزمایشی انجام دهد، در صورت اجرای بدون نظارت همین اقدامات در محیط عملیاتی واقعی می‌تواند نگرانی‌های جدی ایجاد کند. بلاک ظاهراً با ایجاد نقاط کنترل انسانی مستند و قابل مداخله در تمام مراحل، تلاش می‌کند میان افزایش واقعی سرعت عملیات امنیتی و خودکارسازی مهارنشده‌ای که ممکن است خود به یک خطر تبدیل شود، تعادل برقرار کند.

مدیران امنیتی چه می‌گویند؟

مدیران OpenAI برنامه Defense Factory را فراتر از استقرار آن نزد یک مشتری خاص توصیف کرده‌اند. تیبو سوتیو، مدیر محصولات اصلی و پلتفرم OpenAI، درباره فوریت داخلی اجرای این برنامه گفت: «ما با همان فوریتی که هنگام وقوع یک رخداد امنیتی وجود دارد، در حال تقویت دفاع خود هستیم. این تلاشی همگانی است که جز عملیات حیاتی کسب‌وکار، بر همه فعالیت‌های دیگر اولویت دارد. پس از پایان این دوره فشرده نیز همین فوریت را حفظ خواهیم کرد و به آزمایش و تقویت دفاع خود ادامه می‌دهیم.»

افراد دیگری که با برنامه Defense Factory ارتباط دارند، اهمیت این تلاش را با توجه به فرصت رو به کاهش مدافعان توضیح داده‌اند. یکی از سخن‌گویان OpenAI از مفهومی سخن گفته که این تیم در داخل شرکت آن را «پنجره فرصت مدافعان» می‌نامد. منظور فاصله میان توانایی مدل‌های پیشرفته‌ای است که شرکتی مانند OpenAI عرضه می‌کند و قابلیت مدل‌های دارای وزن باز که به‌سرعت پیشرفت می‌کنند و مهاجمان می‌توانند آنها را بدون محدودیت روی زیرساخت خود اجرا کنند. استدلال ضمنی این است که این فرصت برای همیشه باقی نخواهد ماند. به همین دلیل OpenAI مشتریانی مانند بلاک را تشویق می‌کند که دفاع مبتنی بر هوش مصنوعی را از همین حالا وارد عملیات واقعی کنند، نه اینکه آن را صرفاً برنامه‌ای برای آینده بدانند.

تأکید بر نتیجه عملی به‌جای شمار یافته‌های امنیتی، در اظهار نظر دیگری از تیم Defense Factory نیز دیده می‌شود؛ دیدگاهی که می‌توان آن را در عبارت «اصلاحات امنیتی می‌خواهیم، نه صرفاً یافته‌های امنیتی» خلاصه کرد. این فلسفه مستقیماً با چرخه پیشنهاد، تأیید و راستی‌آزمایی بلاک هماهنگ است. تحلیلگران فناوری امنیت نیز بر همین نکته تأکید کرده‌اند و معتقدند تغییر اصلی صرفاً افزایش سرعت شناسایی تهدید نیست، بلکه کوتاه شدن کل فاصله میان وجود آسیب‌پذیری، شناسایی، رفع و دفاع در قالب فرایندی پیوسته است. چنین تحولی مدل عملیاتی تیم‌های امنیت سایبری را تغییر می‌دهد، نه اینکه فقط اسکنری سریع‌تر در اختیار آنها بگذارد.

تأثیر بر بازار؛ افزایش فشار بر هزینه‌های امنیتی شرکت‌های فناوری مالی

اعلام این همکاری در شرایطی صورت می‌گیرد که شرکت‌های فناوری مالی به‌طور گسترده زیر ذره‌بین قرار دارند تا مشخص شود چگونه از اطلاعات مالی مشتریان محافظت می‌کنند. کش‌اپ نیز به‌طور جداگانه با پرونده‌ای مربوط به نقض امنیت داده‌ها مواجه بوده که به توافق پرداخت غرامت ۱۵ میلیون دلاری و آغاز پرداخت به کاربران آسیب‌دیده در همین ماه منجر شده است. این پرونده یادآوری می‌کند که برندهای مصرف‌کننده بلاک، صرف‌نظر از ابزارهای جدید هوش مصنوعی مورد استفاده تیم امنیتی، همچنان اهداف ارزشمندی برای مهاجمان هستند. هم‌زمانی پرداخت غرامت مربوط به یک رخداد قدیمی با اعلام بازطراحی امنیتی مبتنی بر هوش مصنوعی در همان ماه، احتمالاً نهادهای نظارتی و مشتریان را به مقایسه این دو موضوع و بررسی این پرسش سوق می‌دهد که آیا سامانه جدید می‌توانست از رخداد گذشته جلوگیری کند یا خیر.

در بازار گسترده‌تر تأمین‌کنندگان فناوری امنیت سایبری، استقبال علنی بلاک از چارچوب توسعه‌یافته با OpenAI فشار بیشتری بر شرکت‌های باسابقه وارد می‌کند تا نشان دهند برنامه‌های هوش مصنوعی آنها از تحولات بازار عقب نمانده است. ارائه‌دهندگان راهکارهای مدیریت هویت و دسترسی‌های ویژه، بازاری که رقابت میان سایبرآرک، بیاندتراست و دلینیا در آن جریان دارد، از پیش برای افزودن قابلیت تشخیص ناهنجاری با کمک هوش مصنوعی به ابزارهای نظارت بر اطلاعات احراز هویت رقابت می‌کنند. شرکت‌های فعال در شناسایی تهدید در نقاط پایانی شبکه نیز با شرایط مشابهی روبه‌رو هستند. رقابت سهم بازار میان کراوداسترایک، سنتینل‌وان و مایکروسافت دیفندر بیش‌ازپیش به این بستگی پیدا کرده که کدام پلتفرم می‌تواند به‌جای صرفاً ارسال سریع‌تر هشدارها، توانایی رفع خودکار مشکلات از طریق عامل‌های هوش مصنوعی را نشان دهد.

گزارش‌ها و بررسی‌های مستمر درباره کاربرد مدل‌های هوش مصنوعی در دفاع سایبری توسط آزمایشگاه‌های هوش مصنوعی و شرکت‌ها نشان می‌دهد اقدام بلاک بخشی از موج گسترده‌تری است که طی آن شرکت‌ها در سال جاری ابزارهای امنیتی مبتنی بر هوش مصنوعی را از مرحله آزمایشی به سامانه‌های عملیاتی منتقل می‌کنند. ارائه‌دهندگان راهکارهای مدیریت آسیب‌پذیری نیز تحت فشاری مشابه قرار دارند. مقایسه سه شرکت تنبل، کوالیس و رپید۷ نشان داده که حجم وصله‌های امنیتی از ظرفیت بررسی دستی بسیاری از تیم‌های امنیتی فراتر رفته است. سامانه‌ای مانند Daybreak که می‌تواند امکان بهره‌برداری از آسیب‌پذیری را تأیید و مستقیماً راهکاری برای رفع آن پیشنهاد کند، دقیقاً همین گلوگاه را هدف قرار می‌دهد. اگر نتایج بلاک در بررسی‌های مستقل نیز تأیید شود، انتظار می‌رود شرکت‌های مدیریت آسیب‌پذیری به‌جای توقف در مرحله شناسایی و امتیازدهی، توسعه قابلیت‌های رفع مشکل با کمک هوش مصنوعی را سرعت دهند.

پیشینه تحول؛ از SOAR تا دفاع مبتنی بر عامل‌های هوش مصنوعی

خودکارسازی عملیات امنیتی تاکنون چند مرحله متمایز را پشت سر گذاشته است. نسل نخست ابزارهای هماهنگ‌سازی، خودکارسازی و پاسخ‌گویی امنیتی که با نام اختصاری SOAR شناخته می‌شوند، اجرای دستورالعمل‌های ازپیش‌تعریف‌شده برای رخدادهای رایج و شناخته‌شده را خودکار می‌کردند. بااین‌حال، همچنان لازم بود تحلیلگر انسانی تمام قوانین را بنویسد و موارد جدید و ناشناخته را شخصاً بررسی کند. در موج بعدی، دستیارهای هوش مصنوعی وارد مراکز عملیات امنیت شدند؛ ابزارهایی که می‌توانستند هشدارها را خلاصه کنند و مراحل بعدی را به زبان طبیعی پیشنهاد دهند، اما بررسی واقعی رخدادها و رفع مشکلات همچنان بر عهده انسان بود.

آنچه بلاک و OpenAI درباره Daybreak توصیف می‌کنند، گامی فراتر در همین مسیر است. این سامانه فقط اطلاعات را خلاصه نمی‌کند یا پیشنهاد نمی‌دهد، بلکه خود وظایف فنی را انجام می‌دهد: زنجیره‌ای قابل بهره‌برداری از آسیب‌پذیری‌ها را پیدا می‌کند، وصله‌ای مشخص پیشنهاد می‌دهد و تأیید می‌کند که آن وصله نقص امنیتی را برطرف کرده است. در این الگو، انسان به‌جای حضور در تک‌تک مراحل میانی، در جایگاه تصمیم‌گیرنده نهایی قرار می‌گیرد. این گذار از هوش مصنوعی به‌عنوان دستیاری برای سرعت بخشیدن به کار انسان، به عامل هوشمندی که وظایف محدود و مشخص را مستقلاً انجام می‌دهد و نتیجه تأییدشده را تحویل می‌دهد، بخشی از روند گسترده‌تر صنعت است که اقدام بلاک نیز در آن قرار می‌گیرد. رخدادهای امنیتی مرتبط با هوش مصنوعی در سال جاری، هم فرصت‌ها و هم خطرات این تحول را برجسته کرده‌اند. بر اساس گزارش‌ها، ابزارهای خود OpenAI به شناسایی یک تهدید داخلی در دفاتر این شرکت ظرف ۹ روز کمک کرده‌اند. در مقابل، گزارش‌های جداگانه درباره افشای اطلاعات احراز هویت در زیرساخت عامل‌های هوش مصنوعی نشان داده‌اند که استقرار بی‌احتیاط ابزارهای جدید هوش مصنوعی چگونه می‌تواند به‌سرعت سطح حمله تازه‌ای ایجاد کند.

مقایسه رقابتی؛ رویکرد بلاک چه تفاوتی با روش‌های دیگر دارد؟

مقایسه مستقیم عملکرد چارچوب Daybreak با سامانه‌های مشخص رقبا دشوار است، زیرا بیشتر تیم‌های امنیت سازمانی آمار دقیق عملکرد ابزارهای داخلی هوش مصنوعی خود را منتشر نمی‌کنند. بااین‌حال، می‌توان ساختار رویکردهای مختلف را مقایسه کرد؛ از جمله اینکه چه میزان از چرخه مدیریت آسیب‌پذیری خودکار شده و نظارت انسانی در کدام مرحله انجام می‌شود.

ردیف آخر جدول نشان می‌دهد چرا اعلام بلاک اهمیت دارد. انتقال نقطه تصمیم‌گیری الزامی انسان از تمام مراحل به مرحله نهایی استقرار، به معنای کوتاه شدن چشمگیر فرایند امنیتی است؛ البته به شرط آنکه مراحل میانی مبتنی بر هوش مصنوعی در طول زمان از آزمون‌های مستقل سربلند بیرون بیایند. این دقیقاً همان تغییر ساختاری است که احتمالاً پلتفرم‌های حفاظت از برنامه‌های ابری بومی نیز ناچار خواهند شد با آن هماهنگ شوند. شرکت‌های ویز، اورکا و پریزما کلاد در این بازار رقابت می‌کنند و اگر بخواهند مشتریان بزرگ خدمات مالی خود را حفظ کنند، باید بتوانند با قابلیت‌هایی رقابت کنند که اکنون تیم‌های داخلی با ابزارهای OpenAI توسعه می‌دهند.

خطرات و پرسش‌های بی‌پاسخ

اطلاعات منتشرشده هنوز به چند پرسش مهم پاسخ نمی‌دهد؛ پرسش‌هایی که برای سازمان‌های علاقه‌مند به پیروی از الگوی بلاک اهمیت دارند. نخست اینکه هیچ‌یک از دو شرکت نرخ مثبت کاذب یا منفی کاذب چارچوب Daybreak را منتشر نکرده‌اند. بنابراین هنوز نمی‌توان مستقلاً ارزیابی کرد چه نسبتی از وصله‌های پیشنهادی هوش مصنوعی درست هستند و در چه تعداد از موارد، بازبین انسانی مجبور به رد پیشنهاد یا بازنویسی اساسی آن می‌شود. دوم اینکه آزمایش زنجیره حمله دوساعته در داخل شرکت انجام شده است. در نتیجه، پژوهشگران امنیتی بیرونی هنوز فرصتی برای آزمایش تهاجمی خود ابزار شبیه‌سازی حمله نداشته‌اند. احتمالاً انجام چنین آزمایشی پیش از آنکه مؤسسات مالی بزرگ دیگر با اطمینان کامل معماری مشابهی را به کار بگیرند، ضروری خواهد بود.

وابستگی ساختاری دیگری نیز وجود دارد که نباید نادیده گرفته شود: وضعیت امنیتی بلاک اکنون به‌شکل معناداری به دسترس‌پذیری و قابلیت اطمینان زیرساخت OpenAI گره خورده است. هرگونه قطعی احتمالی در آینده، تغییر در رابط‌های برنامه‌نویسی یا تغییر سیاست‌های OpenAI می‌تواند مستقیماً بر توانایی بلاک در شناسایی تهدیدها و رفع مشکلات امنیتی اثر بگذارد. این نوع تمرکز وابستگی به یک تأمین‌کننده، با خطرات رایج طرف‌های ثالث تفاوت دارد، هرچند با همان حوزه‌ای مرتبط است که نهادهای نظارتی فناوری مالی از پیش با دقت بررسی می‌کنند. با توجه به اینکه آزمایشگاه‌های هوش مصنوعی نیز در سال جاری با رخدادهای مرتبط با تهدیدهای داخلی مواجه بوده‌اند، این پرسش که یک شرکت تا چه اندازه باید امنیت عملیاتی خود را به یک تأمین‌کننده هوش مصنوعی وابسته کند، صرفاً بحثی نظری نیست.

گام بعدی چیست؟ پنج پیش‌بینی

• احتمالاً طی دو تا سه فصل آینده، شرکت‌های بزرگ دیگر در حوزه فناوری مالی و پرداخت نیز همکاری‌های مشابهی با برنامه Defense Factory شرکت OpenAI یا برنامه‌های رقیب در آزمایشگاه‌های دیگر هوش مصنوعی را اعلام خواهند کرد و مانند بلاک، به‌جای محرمانه نگه داشتن این همکاری‌ها، آنها را علنی خواهند ساخت.
• شرکت‌های باسابقه امنیت سایبری در حوزه‌های شناسایی و پاسخ‌گویی در نقاط پایانی شبکه (EDR)، مدیریت اطلاعات و رویدادهای امنیتی (SIEM) و مدیریت آسیب‌پذیری، تبلیغات و معرفی محصولات دارای قابلیت رفع مشکل به‌صورت «عامل‌محور» یا «خودمختار» را سرعت خواهند داد تا قراردادهای سازمانی خود را به راهکارهای اختصاصی توسعه‌یافته در داخل شرکت‌ها، مانند سامانه بلاک، واگذار نکنند.
• انتظار می‌رود پژوهشگران مستقل امنیتی و تیم‌های قرمز خواستار آزمایش بیرونی چارچوب‌هایی مانند Daybreak شوند یا خود برای انجام چنین آزمایش‌هایی تلاش کنند. این فشار ممکن است شرکت‌هایی مانند بلاک را به انتشار اطلاعات عملکردی دقیق‌تر از تنها آزمایش دوساعته اعلام‌شده تاکنون وادار کند.
• احتمالاً نهادهای ناظر بر مؤسسات مالی پرسش‌های مشخص‌تری درباره الزامات نظارت انسانی بر ابزارهای امنیتی مبتنی بر هوش مصنوعی مطرح خواهند کرد، زیرا این سامانه‌ها اکنون مستقیماً با زیرساخت پرداخت و داده‌های مشتریان سروکار دارند.
• مفهوم «پنجره فرصت مدافعان» که تیم OpenAI آن را مزیتی موقت توصیف کرده، در سراسر سال ۲۰۲۷ همچنان موضوع بحث خواهد بود؛ زیرا مدل‌های دارای وزن باز به کاهش فاصله توانایی خود با مدل‌هایی ادامه می‌دهند که فعلاً به مدافعان برخوردار از منابع گسترده، مانند بلاک، برتری می‌دهند.

چرا این تحول فراتر از بلاک اهمیت دارد؟

بلاک شرکت بزرگی است، اما در میان مشتریان سازمانی OpenAI از نظر اندازه جایگاهی منحصربه‌فرد ندارد؛ دقیقاً به همین دلیل است که اعلام این همکاری فراتر از وضعیت مالی و تجاری خود بلاک اهمیت پیدا می‌کند. مجموعه‌های مستقلی که استقرار هوش مصنوعی در شرکت‌ها را دنبال می‌کنند، از جمله پایگاه‌های اختصاصی ثبت داده‌های پذیرش هوش مصنوعی در ابتکارهای شرکت بلاک، اکنون چنین کاربردهای عملیاتی در حوزه امنیت را شاخصی برای سنجش میزان آمادگی صنایع تحت نظارت می‌دانند؛ صنایعی که باید تصمیم بگیرند تا چه حد حاضرند وظایف عملیاتی را به عامل‌های هوش مصنوعی بسپارند. بلاک از مقیاس فعالیت خود، شبکه پذیرندگان اسکوئر، کاربران کش‌اپ و مجموعه خدمات اعتباری افترپی به‌عنوان بستری برای آزمودن رویکردی استفاده می‌کند که OpenAI آشکارا قصد دارد آن را در بازار گسترده‌تری عرضه کند. اگر Daybreak همچنان در سطحی که در این گزارش اولیه توصیف شده عمل کند، به نمونه‌ای مرجع تبدیل خواهد شد که تیم‌های فروش و همکاری‌های OpenAI هنگام معرفی Defense Factory به دیگر صنایع تحت نظارت به آن استناد خواهند کرد؛ از جمله حوزه سلامت، بیمه و بخش‌هایی از بانکداری که در گذشته در پذیرش تغییرات زیرساختی مبتنی بر هوش مصنوعی کندتر بوده‌اند.

زمان وقوع این تحول نیز اهمیت دارد. تیم‌های امنیتی در سراسر صنعت با شکافی روبه‌رو هستند که میان حجم کدهای منتشرشده، که اکنون بخش زیادی از آنها با کمک هوش مصنوعی نوشته می‌شوند، و ظرفیت انسانی موجود برای بررسی نقص‌های امنیتی پیش از ورود کدها به محیط عملیاتی، روزبه‌روز بزرگ‌تر می‌شود. چارچوبی که بتواند داده‌های پایش هفت ماه را در کمتر از یک ساعت بازآزمایی کند و زنجیره‌ای واقع‌گرایانه از حملات را ظرف حدود دو ساعت به هم متصل کند، صرفاً نسخه سریع‌تری از ابزارهای موجود نیست. چنین سامانه‌ای پاسخی مستقیم به کمبود ظرفیت بررسی امنیتی است؛ پاسخی که سازمان‌های مهندسی بزرگ دیگر نیز هم‌زمان با ارزیابی سرمایه‌گذاری‌های امنیتی مبتنی بر هوش مصنوعی برای سال ۲۰۲۷، با دقت آن را دنبال می‌کنند.

پرسش‌های متداول

همکاری بلاک با برنامه Defense Factory شرکت OpenAI چیست؟

تیم امنیت بلاک از برنامه Defense Factory شرکت OpenAI برای کشف آسیب‌پذیری‌ها، شناسایی تهدیدها و پاسخ‌گویی به رخدادهای امنیتی استفاده می‌کند. این همکاری بر چارچوبی به نام Daybreak استوار است که وظایف مختلف را میان مدل‌های مناسب OpenAI توزیع می‌کند.

Daybreak چیست؟

Daybreak چارچوب امنیتی مشترک بلاک و OpenAI است. این سامانه هر وظیفه امنیتی را به مدل مناسب OpenAI ارجاع می‌دهد، امکان واگذاری کنترل به انسان را در هر مرحله فراهم می‌کند و از راستی‌آزمایی نتایج توسط عامل‌های دیگر هوش مصنوعی پشتیبانی می‌کند.

بلاک با چه سرعتی می‌تواند یک قانون جدید شناسایی تهدید را آزمایش کند؟

بلاک می‌گوید با استفاده از Daybreak می‌تواند تغییرات پیشنهادی در قوانین شناسایی تهدید را با بازپخش داده‌های عملیاتی هفت ماه گذشته در کمتر از یک ساعت آزمایش کند؛ فرایندی که با روش‌های سنتی و تحلیل دستی داده‌ها معمولاً زمان بسیار بیشتری می‌برد.

آیا Daybreak واقعاً یک حمله را شبیه‌سازی کرده است؟

بله. در یک آزمایش داخلی، Daybreak زنجیره‌ای از حملات شبیه‌سازی‌شده شامل تزریق SQL، افزایش سطح دسترسی، ایجاد جای پای پایدار، شناسایی اطلاعات احراز هویت و نفوذ به سامانه‌های دیگر را اجرا کرد. تکمیل این زنجیره حدود دو ساعت زمان برد.

آیا هوش مصنوعی بدون تأیید انسان اصلاحات امنیتی را اجرا می‌کند؟

خیر. به گفته جیمز نتسهایم، مدیر ارشد امنیت اطلاعات بلاک، انسان همچنان فرایند را هدایت می‌کند و تصمیم نهایی درباره استقرار تغییرات کد را می‌گیرد؛ هرچند پیشنهاد وصله و راستی‌آزمایی آن با کمک هوش مصنوعی انجام می‌شود.

این سامانه امنیتی کدام برندهای بلاک را پوشش می‌دهد؟

واحد امنیت بلاک که اکنون از Daybreak استفاده می‌کند، مسئول امنیت کل شرکت است. این پوشش محصولات تجاری و مصرف‌کننده اسکوئر، کش‌اپ و افترپی را نیز شامل می‌شود.

آیا بلاک تنها استفاده‌کننده برنامه Defense Factory شرکت OpenAI است؟

بلاک یکی از نمونه‌های شناخته‌شده و علنی شرکتی است که برنامه Defense Factory را وارد عملیات واقعی کرده است؛ اما اطلاعات منتشرشده مشخص نمی‌کند چه تعداد شرکت دیگر از همین سامانه یا راهکاری مشابه استفاده می‌کنند.

مهم‌ترین خطرات خودکارسازی امنیت با هوش مصنوعی چیست؟

از جمله نگرانی‌های اصلی می‌توان به منتشر نشدن نرخ هشدارهای مثبت و منفی کاذب، نبود آزمایش مستقل بیرونی برای چارچوب Daybreak و افزایش وابستگی توانایی امنیتی بلاک به قابلیت اطمینان زیرساخت یک تأمین‌کننده واحد هوش مصنوعی اشاره کرد.