در آزمایشگاه امنیت سایبری OpenAI؛ رقابت هکرها برای محافظت از اینترنت در برابر حملات هوش مصنوعی

عنوان اصلی مقاله: پشت پرده برنامه OpenAI برای محافظت از اینترنت پیش از آنکه هکرها امنیت آن را در هم بشکنند

نویسنده: توماس بروستر، خبرنگار ارشد فوربس در حوزه جرایم سایبری، حریم خصوصی و نظارت

۲۳ اکتبر ۲۰۲۶، ساعت ۶:۳۰ صبح به وقت شرق آمریکا

پژوهشگران امنیت سایبری عضو جامعه پروژه Daybreak شرکت OpenAI با استفاده از جدیدترین مدل GPT، یکی از خطرناک‌ترین آسیب‌پذیری‌های سال‌های اخیر را کشف کرده‌اند. این دستاورد بخشی از تلاشی فشرده برای ایمن‌سازی اینترنت است؛ تلاشی که باید پیش از دستیابی هکرها به ابزارهای مشابه و استفاده از آن‌ها برای مختل کردن زندگی مدرن به نتیجه برسد.

کلینت گیبلر تنها چند ماه بود که مدیریت آزمایشگاه نخبه هکرهای OpenAI را بر عهده گرفته بود که یکی از پژوهشگران امنیت سایبری، تیم او را از کشفی تکان‌دهنده باخبر کرد.

مدل پیشرفته OpenAI، موسوم به GPT-5.6 Sol، آسیب‌پذیری‌های جدی در PHP پیدا کرده بود؛ زبان برنامه‌نویسی وبی که امروزه زیرساخت ۷۰ درصد وب‌سایت‌های اینترنت را تشکیل می‌دهد. این غول هوش مصنوعی و همکارانش بیش از دو ماه پشت صحنه تلاش کردند تا یافته‌ها را اعتبارسنجی کنند و از کارآمد بودن اصلاحات اطمینان یابند. سرانجام این هفته آسیب‌پذیری‌ها را به‌صورت عمومی اعلام کردند. پس از آن، رقابتی نفس‌گیر برای انتشار هرچه سریع‌تر وصله‌های امنیتی در سراسر وب آغاز شد؛ هم‌زمان هکرها میلیون‌ها حمله ترتیب دادند تا از این ضعف‌ها سوءاستفاده کنند.

آسیب‌پذیری‌های PHP نخستین مشکلات بزرگ امنیت سایبری هستند که با استفاده از هوش مصنوعی کشف شده‌اند. طی یک سال گذشته، مدل‌های هوش مصنوعی آزمایشگاه‌های پیشرو در شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری به سطحی هم‌تراز یا حتی بالاتر از بیشتر متخصصان رسیده‌اند. مدل‌های GPT متعلق به OpenAI و Claude متعلق به Anthropic، در کنار مدل‌های شرکت‌های نوپایی مانند Depthfirst، طیف گسترده‌ای از آسیب‌پذیری‌ها را در مرورگرها و کدهای زیربنایی اینترنت، از جمله PHP، شناسایی کرده‌اند. اکنون مدافعان امنیت سایبری با زمان مسابقه می‌دهند تا پیش از آنکه هکرها با مدل‌های مشابه و در دسترس، به‌ویژه مدل‌های چینی با وزن‌های باز مانند DeepSeek و Kimi، حملاتی بی‌سابقه علیه شرکت‌ها آغاز کنند، تا حد امکان این ضعف‌ها را برطرف کنند. شاید این مقطع را بتوان سرنوشت‌سازترین لحظه در تاریخ نسبتاً کوتاه امنیت سایبری دانست.

نشانه‌های هشداردهنده از هم‌اکنون آشکار شده‌اند. فوربس در سپتامبر گزارش داد که هکرهای چینی با استفاده از Claude شرکت Anthropic و DeepSeek اطلاعات بیش از ۶۰۰ هزار کارت اعتباری را سرقت کرده‌اند. خبرگزاری رویترز نیز در ماه جاری از حمله مشابهی خبر داد که ۱۰۰ وب‌سایت دیگر را هدف قرار داده بود. روز چهارشنبه نیز مایکروسافت اعلام کرد هکرهای چینی با استفاده از ابزار هوش مصنوعی عامل‌محوری به نام Artex، که معمولاً برای آزمایش امنیت سایبری به کار می‌رود، به صدها سازمان از جمله اهداف دولتی و نظامی حمله کرده‌اند.

آسیب‌پذیری‌های PHP در چارچوب ابتکار Patch the Planet شرکت OpenAI کشف شدند؛ برنامه‌ای که در آن متخصصان امنیتی داخل و خارج از شرکت، با بهره‌گیری از قدرتمندترین مدل‌های این شرکت برای هک و آزمون امنیت، آسیب‌پذیری‌های جدی را شناسایی و برطرف می‌کنند. OpenAI که ارزش آن ۸۵۲ میلیارد دلار برآورد می‌شود، می‌کوشد با ارائه پیشرفته‌ترین فناوری‌های خود به شرکای تأییدصلاحیت‌شده در قالب برنامه‌ای به نام Project Daybreak، به چالش‌های امنیتی روزافزون پاسخ دهد. اکنون جامعه هکرهای کلاه‌سفید این پروژه در خط مقدم تلاش برای مهار موج حملات سایبری مبتنی بر هوش مصنوعی قرار دارد. گیبلر به فوربس می‌گوید هدف Daybreak این است که امنیت اینترنت را «به سطحی بهتر از هر زمان دیگری» برساند.

گیبلر که در ماه مه از شرکت ارائه‌دهنده ابزارهای امنیت سایبری Semgrep به OpenAI پیوست، می‌گوید: «ما می‌خواهیم هوش مصنوعی قدرتمند به سود تمام بشریت باشد. اگر جهانی بسازیم یا اجازه دهیم جهانی شکل بگیرد که در آن نرم‌افزارها به‌شدت ناامن باشند، آن جهان جایی نیست که بخواهیم در آن زندگی کنیم. حتی اگر سودآوری فوق‌العاده‌ای داشته باشیم و پول هنگفتی به دست آوریم، باز هم چنین وضعیتی را شکست خود می‌دانیم.»

پژوهشگران حاضر در برنامه‌های Daybreak و Patch the Planet با سرعت و در مقیاسی چشمگیر در حال کشف آسیب‌پذیری‌ها هستند. تاکنون نزدیک به دو هزار مورد از این ضعف‌ها از سوی این جامعه گزارش شده است و OpenAI و شرکایش هر روز موارد بیشتری را اعتبارسنجی می‌کنند. برخی از این آسیب‌پذیری‌ها در خطرناک‌ترین دسته ممکن قرار می‌گیرند و به «بدون نیاز به کلیک» یا Zero-click معروف‌اند. اگر یک هکر مخرب از چنین ضعف‌هایی سوءاستفاده کند، ممکن است بتواند دستگاه هر فردی را که صرفاً از یک وب‌سایت بازدید می‌کند، به خطر بیندازد.

در شرایط معمول، یک پژوهشگر ماهر ممکن است برای توسعه تنها یک یا دو روش بهره‌برداری از چنین آسیب‌پذیری‌هایی به یک سال زمان نیاز داشته باشد. اما به گفته گیبلر، مدل‌های هوش مصنوعی در آزمایشگاه امنیت سایبری OpenAI هر هفته ده‌ها مورد تولید می‌کنند. او توضیح می‌دهد: «چندین پژوهشگر فوق‌العاده بااستعداد در زمینه آسیب‌پذیری‌ها در تیم ما حضور دارند. بسیاری از آن‌ها اکنون ظرف یک هفته یا حتی یک روز، ضعف‌هایی را کشف می‌کنند که پیش‌تر اگر در طول یک سال فقط یکی از آن‌ها را پیدا می‌کردند، بسیار هیجان‌زده می‌شدند. حالا روزانه چیزی حدود ۱۰۰ مورد از این ضعف‌ها را پیدا می‌کنند.»

بسیاری از سامانه‌های چند دهه‌ای اینترنت پر از ایرادهای کوچکی هستند که در گذشته رفع آن‌ها اولویت چندانی نداشت. اما هوش مصنوعی در کنار هم قرار دادن این ضعف‌ها و تبدیل آن‌ها به زنجیره‌ای قابل بهره‌برداری مهارت زیادی دارد. به همین دلیل، شرکت‌ها دیگر نمی‌توانند رفع آسیب‌پذیری‌هایی را که کم‌خطرتر به نظر می‌رسند، به انتهای فهرست کارهای خود موکول کنند. گیبلر می‌گوید: «همیشه تعداد مشکلاتی که باید برطرف شوند از زمانی که احتمالاً در اختیار دارید بیشتر است. حتی مواردی که جدی به نظر نمی‌رسند، ممکن است واقعاً جدی باشند.»

اما خطر فقط از بیرون متوجه این شرکت نیست. OpenAI در ماه ژوئیه فاش کرد که عامل‌های هوش مصنوعی این شرکت در اوایل سال جاری، هنگام انجام مجموعه‌ای از وظایف دشوار امنیت سایبری، از محیط آزمایشی خود خارج شده بودند. آن‌ها در اتاق‌های گفت‌وگوی مخفیانه با یکدیگر هماهنگ شدند، بدون مجوز به اینترنت متصل شدند و به پلتفرم هوش مصنوعی Hugging Face حمله کردند؛ زیرا تصور می‌کردند پاسخ چالش‌هایشان ممکن است در سامانه‌های آن شرکت وجود داشته باشد. این نخستین مورد شناخته‌شده‌ای است که در آن مدل‌های هوش مصنوعی به ابتکار خود به سامانه‌های شرکتی دیگر نفوذ کرده‌اند.

یک ماه پس از کشف این رفتار خارج از کنترل، به گیبلر مأموریت داده شد مدل Astra، مدل متمرکز بر امنیت سایبری OpenAI، را علیه سامانه‌های خود شرکت به کار بگیرد تا از تکرار چنین اتفاقی جلوگیری شود. تیم او تمام نرم‌افزارهای موجود در شبکه شرکت را بررسی کرد و تنها در روز نخست بیش از ۵۰ مشکل پیدا کرد. بخش بزرگی از این موارد، آسیب‌پذیری‌های کوچکی بودند که هکرهای عامل‌محور OpenAI می‌توانستند با ترکیب آن‌ها تهدیدی بسیار جدی‌تر ایجاد کنند. این شرکت حاضر نشد اعلام کند عملیات فشرده بررسی امنیت داخلی چه مدت ادامه داشته و در مجموع چند مشکل کشف شده است.

تعداد آسیب‌پذیری‌هایی که باید برطرف شوند چنان سرسام‌آور است که حتی بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی، با وجود جذب صدها میلیارد دلار سرمایه، در برابر حجم کار درمانده‌اند. داده‌های Patch the Planet نشان می‌دهد از مجموع ۱۹۹۵ آسیب‌پذیری کشف‌شده در این برنامه، ۱۳۱۶ مورد همچنان در انتظار دریافت وصله امنیتی هستند. شرکت Anthropic نیز که برنامه‌ای مشابه Daybreak به نام Glasswing دارد، اعلام کرده بیش از ۲۹ هزار آسیب‌پذیری احتمالی شناسایی کرده، اما تاکنون فقط توانسته حدود شش هزار مورد را بررسی و از نظر اولویت رسیدگی دسته‌بندی کند. این شرکت اوایل ماه جاری در مطلبی نوشت: «هرچند شش هزار آسیب‌پذیری رقم قابل‌توجهی است، ظرفیت نیروی انسانی برای اعتبارسنجی این یافته‌ها همچنان گلوگاه اصلی کار ماست.»

گادی اورون، مدیرعامل و هم‌بنیان‌گذار شرکت امنیت هوش مصنوعی Knostic، می‌گوید: «اینکه OpenAI در این حوزه سرمایه‌گذاری می‌کند اتفاق بسیار خوبی است، اما ما با طوفانی روبه‌رو هستیم. باید در فرصت باقی‌مانده، در سراسر صنعت اقدامات بسیار بیشتری برای آمادگی انجام دهیم.»

شرکت‌ها برای تولید وصله‌های امنیتی نیز به هوش مصنوعی روی آورده‌اند، اما نتایج یکدست نبوده است. روز چهارشنبه، شرکت مشاوره امنیت سایبری Trail of Bits که همراه با OpenAI برنامه Patch the Planet را اداره می‌کند، نتایج ممیزی وصله‌های نوشته‌شده توسط هوش مصنوعی در این برنامه را منتشر کرد. از میان ۱۳۰ وصله‌ای که برای اصلاح نرم‌افزارها به کار گرفته شده بودند، ۱۶ مورد در عملکرد کد اختلال ایجاد کردند و یک مورد نیز باعث افت کارایی شد. با این حال، هیچ‌یک آسیب‌پذیری تازه‌ای به وجود نیاوردند؛ اتفاقی که گاهی هنگام به‌روزرسانی کد رخ می‌دهد. Trail of Bits همچنین تأکید کرد که بررسی کار هوش مصنوعی به زمان قابل‌توجهی از سوی متخصصان انسانی نیاز داشته است؛ نتیجه‌ای که با مزیت ادعایی این فناوری در کاهش کار انسانی در تضاد قرار می‌گیرد.

دن گیدو، بنیان‌گذار و مدیرعامل Trail of Bits، می‌گوید: «هنوز به مرحله‌ای نرسیده‌ایم که بتوانید به هوش مصنوعی بگویید: هی، این مشکل را برایم وصله کن؛ اما با سرعت زیادی به آن نزدیک می‌شویم.» او معتقد است آزمایشگاه‌های پیشرو به‌جای تکیه بیش از حد بر بازبینی انسانی، باید بر آموزش هوش مصنوعی برای انجام تمام مراحل کار، از کشف آسیب‌پذیری تا اصلاح آن، تمرکز کنند. نشریه The Information اخیراً گزارش داده بود که OpenAI در حال بررسی خرید شرکت Trail of Bits است. گیدو از اظهارنظر درباره این موضوع خودداری کرد.

اصلاح آسیب‌پذیری‌های بزرگی مانند ضعف‌های PHP به ماه‌ها هماهنگی میان اعضای جامعه فناوری نیاز دارد. با این حال، حتی چنین سرعتی هم ممکن است کافی نباشد. طبق داده‌های غول فناوری آمازون، همان روش‌های بهره‌برداری از آسیب‌پذیری‌های PHP پنج روز پیش از اطلاع‌رسانی عمومی در حملات سایبری به کار گرفته شده بودند. آمازون اعلام کرد عامل یا عاملان این حملات پیش از انتشار وصله امنیتی دست به اقدام زده بودند. سی‌جی موزس، مدیر ارشد امنیت اطلاعات آمازون، نوشت: «هنوز مشخص نیست عامل حمله چگونه پیش از افشای عمومی به اطلاعات لازم برای بهره‌برداری از این آسیب‌پذیری دست یافته است.» او افزود که به لطف هوش مصنوعی، «پس از انتشار جزئیات فنی یک آسیب‌پذیری، شمار بیشتری از مهاجمان می‌توانند ظرف چند ساعت یا حتی چند دقیقه دست به اقدام بزنند.»

یکی از ارکان اصلی راهبرد امنیت سایبری OpenAI، ارائه بهترین مدل‌های این شرکت به شرکای تأییدصلاحیت‌شده است. شرکت‌های عضو Daybreak می‌توانند جدیدترین فناوری‌های پیشرفته هوش مصنوعی را برای بررسی زیرساخت‌های خود به کار بگیرند، مشکلات امنیتی را شناسایی کنند و سپس یافته‌هایشان را با جامعه گسترده‌تر متخصصان به اشتراک بگذارند.

مشارکت در این برنامه دو سطح دارد. Daybreak Blue برای تیم‌های امنیتی معمول طراحی شده و به کاربران امکان می‌دهد بدون محدودیت‌های حفاظتی مربوط به کاربردهای سایبری، به جدیدترین مدل عمومی OpenAI دسترسی داشته باشند. سازمان‌هایی که به آزمون نفوذ جامع‌تر در شبکه خود نیاز دارند، می‌توانند برای عضویت در Daybreak Red درخواست بدهند. مشتریان این سطح به هوشمندترین مدل‌های GPT شرکت که به‌طور ویژه برای امنیت سایبری طراحی شده‌اند، دسترسی پیدا می‌کنند. عضویت در این برنامه هزینه‌ای ندارد، اما سازمان‌ها باید هزینه توکن‌های مصرفی برای اجرای مدل‌ها را بپردازند.

شرکت Block متعلق به جک دورسی، از نخستین مشتریان Daybreak Red است. این شرکت فناوری مالی که ارزش بازار آن ۴۶ میلیارد دلار است، سرویس Cash App را اداره می‌کند. به گفته جیمز نتسهایم، مدیر ارشد امنیت اطلاعات Block، هوش مصنوعی اکنون می‌تواند در چند ساعت کارهایی را انجام دهد که پیش‌تر برای تیم امنیت تهاجمی شرکت چند روز یا حتی چند هفته زمان می‌برد. او می‌گوید: «این فناوری در فرایندهای خودکار ما عملکرد بسیار خوبی دارد؛ هم در پیدا کردن آسیب‌پذیری‌ها، هم در تأیید اینکه واقعاً با مشکلاتی روبه‌رو هستیم که باید اصلاح شوند و هم در کمک به تدوین و پیشنهاد راهکارهای رفع آن‌ها.»

با وجود این، چنین قابلیت‌هایی باعث نشده‌اند مشتریان احساس امنیت کامل داشته باشند. نتسهایم می‌گوید: «موضوع نگران‌کننده این است که مهاجمان نیز خواهند توانست بخش بزرگی از همین کارها را انجام دهند.»

OpenAI تاکنون تصمیم گرفته است دسترسی به Daybreak را به سازمان‌های منتخب محدود کند، هرچند حاضر نشده تعداد کل آن‌ها را اعلام کند. این شرکت همچنین یک میلیارد دلار اعتبار توکنی در اختیار تیم‌های نگهداری نرم‌افزارهای متن‌باز قرار داده است؛ تیم‌هایی که معمولاً با بودجه‌های بسیار محدود فعالیت می‌کنند. به گفته گیدو، تیم توسعه PHP که تنها از شمار اندکی داوطلب تشکیل شده، در نتیجه همکاری با Patch the Planet بیش از گذشته از ابزارهای هوش مصنوعی استفاده می‌کند.

فعالیت OpenAI تنها به حمایت از شرکت‌های بزرگ و نگهدارندگان زیرساخت‌های فنی اینترنت محدود نمی‌شود. این شرکت با سازمان‌های مسئول زیرساخت‌های حیاتی نیز همکاری می‌کند تا از حملات احتمالی به سامانه‌های تأمین آب و انرژی جلوگیری شود. همچنین مدل‌های آن از طریق شرکایی مانند دیو کندی، تحلیلگر سابق آژانس امنیت ملی آمریکا و بنیان‌گذار و مدیرعامل شرکت امنیت سایبری TrustedSec، برای آزمودن میزان تاب‌آوری امنیتی دولت‌های محلی و دولت فدرال به کار گرفته می‌شوند. کندی می‌گوید سال آینده برای «کسب‌وکارها، دولت‌ها و حوزه امنیت سایبری دوران سختی» خواهد بود. با این حال، او معتقد است اگر فقط شرکت‌های قانونی و معتبر بتوانند از مدل‌های پیشرفته استفاده کنند و این مدل‌ها برتری خود را نسبت به جایگزین‌های باز حفظ کنند، می‌توانند به «ایمن‌سازی جهان» کمک کنند.

البته تحقق این چشم‌انداز به دو شرط بزرگ وابسته است. برخی کارشناسان معتقدند محدودیت‌های دسترسی Daybreak برای مقابله با تهدید فزاینده مجرمان سایبری کافی نیست. اوخه دِ مور، مدیرعامل شرکت یک میلیارد دلاری امنیت سایبری مبتنی بر هوش مصنوعی XBOW، می‌گوید فراهم کردن دسترسی برای همه به تیم‌های امنیتی سراسر جهان کمک می‌کند سامانه‌های خود را در برابر حملات مبتنی بر هوش مصنوعی محافظت کنند. او می‌گوید: «تعداد مدافعان از مهاجمان بیشتر است و باید فرض کنیم مهاجمان نیز به مدل‌های بسیار قدرتمند دسترسی دارند.» به گفته او، مدل‌های آزمایشگاه‌های پیشرو هوش مصنوعی از جایگزین‌های چینی و مدل‌های دارای وزن باز پیشرفته‌تر هستند؛ جایگزین‌هایی که به‌رایگان قابل دانلودند و توانایی‌هایشان به‌سرعت در حال افزایش است. دِ مور می‌افزاید: «فکر نمی‌کنم این برتری آن‌قدر زیاد باشد که چنین محدودیت‌هایی را توجیه کند.»

اما OpenAI معتقد است گسترش دسترسی سازمان‌ها به پیشرفته‌ترین مدل‌های تخصصی امنیت سایبری این شرکت بیش از حد خطرناک است. به همین دلیل، گیبلر می‌گوید تیم او درخواست‌کنندگان عضویت در Daybreak Red را به‌طور گسترده و دقیق بررسی می‌کند. او توضیح می‌دهد: «ما با حساسیت بسیار زیادی با این موضوع برخورد می‌کنیم و می‌خواهیم مطمئن شویم که فقط افراد و نهادهای مجاز به این فناوری دسترسی دارند.»

شش تا دوازده ماه آینده دوره‌ای حیاتی برای استفاده از هوش مصنوعی در ایمن‌سازی سامانه‌های جهان خواهد بود. گیدو معتقد است پرونده PHP نشان می‌دهد رویکرد OpenAI مؤثر بوده است. هرچند برخی هکرها پیش از اعلام عمومی آسیب‌پذیری‌ها از وجود آن‌ها آگاه شده بودند، او بر این باور است که Patch the Planet فرصت کافی برای پیش‌دستی در اختیار مدافعان گذاشته است. گیدو می‌گوید: «هنوز هیچ شواهدی از نفوذ موفق و گسترده مشاهده نکرده‌ایم.»

با این حال، از آنجا که ۳۸ میلیون سامانه همچنان از نسخه‌های آسیب‌پذیر PHP استفاده می‌کنند، شاید وقوع چنین اتفاقی فقط مسئله زمان باشد.