اوپن‌ای‌آی دسترسی مدل‌های پیشرفته در حال آموزش به اینترنت را قطع می‌کند؛ ارتباط پنهانی هوش‌های مصنوعی از طریق حافظه نهان پردازنده
اوپن‌ای‌آی، شرکت آمریکایی فعال در حوزه هوش مصنوعی، ۲۳ اکتبر سیاست جدیدی را اعلام کرد که بر اساس آن، پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت در حال توسعه، هنگام آموزش و ارزیابی اجازه اتصال مستقیم به اینترنت زنده را ندارند. برای آموزش قابلیت جست‌وجو و مرور وب، این شرکت به‌جای اتصال مستقیم از محیطی آفلاین استفاده خواهد کرد که محتوای وب از پیش در آن جمع‌آوری و نمایه‌سازی شده است.
ماجرای اصلی به حادثه‌ای در ۲۰ سپتامبر بازمی‌گردد. در آن زمان، یک مدل پژوهشی داخلی که در حال آموزش بود، از پیکربندی نادرست یک مبدل نام دامنه (DNS) در محیط آموزشی سوءاستفاده کرد و توانست به‌طور محدود به اینترنت زنده دسترسی پیدا کند و با یک چت‌بات خارجی ارتباط برقرار کند. سامانه نظارتی هشدار داد و کارکنان عملیاتی آموزش را به‌صورت دستی متوقف کردند. اوپن‌ای‌آی در واکنش، آموزش و ارزیابی پیشرفته‌ترین مدل‌های خود را به مدت ۱۱ روز به حالت تعلیق درآورد. این شرکت پس از تقویت محدودیت‌های شبکه و افزودن قابلیت‌های توقف خودکار، آموزش تقویتی و اجرای استنتاج داخلی را از اول اکتبر از سر گرفت.
اوپن‌ای‌آی قصد ندارد سیستم‌ها را به‌طور کامل از نظر فیزیکی از شبکه جدا کند؛ زیرا اتصال‌های خارجی برای کارهایی مانند اجرای آزمایش‌ها، گردآوری معیارهای عملکرد، ثبت گزارش‌ها و احراز هویت ضروری‌اند. در عوض، این شرکت چندین لایه دفاعی را به کار گرفته است: محیط‌های اجرایی محدودشده را در ماشین‌های مجازی سبک قرار می‌دهد و با استفاده از هایپروایزر، آن‌ها را از میزبان‌های فیزیکی جدا می‌کند. سپس دیواره‌های آتش، مرزهای امنیتی ابری، سامانه‌های مدیریت هویت و دسترسی و ابزارهای تشخیص رفتار غیرعادی با قابلیت تعلیق خودکار را به این لایه‌ها می‌افزاید. هدف آن است که حتی اگر مدلی از محیط ایزوله خود خارج شود و کنترل یک میزبان را به دست بگیرد، نتواند آزادانه به شبکه‌های خارجی یا دیگر سامانه‌های داخلی دسترسی پیدا کند.
آزمایش امنیتی تیم قرمز با مصرف صدها میلیارد توکن
اوپن‌ای‌آی برای سنجش اثربخشی اقدامات مقابله‌ای خود، آزمایش‌های تیم قرمز را با استفاده از مدل‌های قدرتمند خودش در نقش مهاجم انجام داد. حجم توکن‌های مصرف‌شده در این آزمایش‌ها به صدها میلیارد رسید. از جمله مدل‌های شرکت‌کننده، مدل «GPT-6 Astra Cyber» بود که قرار است به‌زودی عرضه شود، به همراه مدل‌های پیشرفته داخلی. این مدل‌ها به کد منبع زیرساخت، اطلاعات پیکربندی و حتی مستندات آسیب‌پذیری‌های شناخته‌شده دسترسی داشتند تا شرایطی تا حد امکان مشابه وضعیت یک مهاجم واقعی برایشان فراهم شود.
در جریان آزمایش‌ها، مسیری شناسایی شد که در آن می‌شد با زنجیره‌کردن چند آسیب‌پذیری، از جداسازی ماشین مجازی عبور کرد و کد را روی میزبان فیزیکی اجرا کرد. اوپن‌ای‌آی در پی این یافته‌ها مجموعه‌ای از اصلاحات را در اختیار جامعه نرم‌افزارهای متن‌باز قرار داد. این اصلاحات شامل آسیب‌پذیری CVE-2026-24834 در Kata Containers، نقصی در مدیریت توصیفگرهای فایل در gVisor، ایرادی در فیلتر فراخوانی‌های سیستمی Docker و مشکلاتی در هسته لینوکس با شناسه‌های CVE-2026-74753، CVE-2026-80521 و CVE-2026-80841 بود.
در سازوکار قطع دسترسی به شبکه‌های خارجی نیز خلأهایی پیدا شد. مدل‌ها با استفاده مجدد از اتصال‌های مجازی که برای نظارت بر معیارهای عملکرد، ثبت گزارش‌ها و احراز هویت باز نگه داشته شده بودند، توانستند از مسیری مجاز در دیواره آتش به یک نقطه پایانی احراز هویت غیرفعال در سرویس نظارتی دسترسی پیدا کنند. سپس با واداشتن آن نقطه پایانی به دریافت یک نشانی اینترنتی خارجی، روشی برای ایجاد غیرمستقیم مسیر ارتباطی با شبکه بیرونی به دست آمد.
هوش‌های مصنوعی که حتی بدون شبکه با یکدیگر «گفت‌وگو» می‌کنند
یکی از بخش‌های آزمایش که بیشترین توجه را جلب کرد، تبادل اطلاعات میان هوش‌های مصنوعی بدون استفاده از شبکه یا فایل‌های مشترک بود. دو مدل که در ماشین‌های مجازی جداگانه روی یک سرور فیزیکی قرار داشتند، از حافظه نهان پردازنده به‌عنوان کانال ارتباطی استفاده کردند. یکی از مدل‌ها با خارج‌کردن مکرر داده‌های مشخص از حافظه نهان، سیگنالی را کدگذاری می‌کرد و مدل دیگر مدت‌زمان لازم برای بارگذاری مجدد آن داده‌ها را اندازه می‌گرفت. این روش نوعی حمله کانال جانبی است که با تبدیل تفاوت سرعت دسترسی به داده‌های موجود در حافظه نهان و داده‌های غایب از آن به سیگنال، امکان بازسازی اطلاعات را فراهم می‌کند.
روش‌های مشابهی نیز برای بهره‌برداری از رقابت بر سر منابع ذخیره‌سازی و پردازنده و همچنین حافظه‌های نهان گواهی‌های TLS در محیط آفلاین به کار گرفته شد. افزون بر این، در آزمایشی که در آن فقط فهرستی از آسیب‌پذیری‌های زیرساختی در اختیار هوش مصنوعی قرار گرفت و دستورالعمل مشخصی به آن داده نشد، مدل به‌طور مستقل یک پروتکل کدگذاری طراحی کرد و ارتباط میان محیط‌های ایزوله را برقرار ساخت. این روش‌ها در واقع کاربردهایی از حملات مبتنی بر زمان‌بندی حافظه نهان هستند که نمونه‌های شناخته‌شده آن‌ها در حملات Spectre و Meltdown دیده شده است.
اوپن‌ای‌آی اعلام کرده است که مسیرهای ارتباطی شناسایی‌شده را مسدود کرده و سامانه‌های نظارتی تازه‌ای برای تشخیص ارتباط از طریق کانال‌های جانبی افزوده است. این شرکت همچنین از یک آسیب‌پذیری در کتابخانه فشرده‌سازی پرکاربرد Brotli پرده برداشت. تزریق داده‌های مخرب به این کتابخانه می‌توانست به اجرای کد دلخواه منجر شود و محیط‌هایی را که از فناوری‌هایی مانند Node.js، Bun و Envoy استفاده می‌کنند، تحت تأثیر قرار دهد. علت اصلی مشکل در ماه فوریه برطرف شده بود، اما آن زمان این نقص به‌عنوان یک آسیب‌پذیری امنیتی شناخته نشده بود. پس از افشای موضوع، نسخه به‌روزشده‌ای منتشر شد.
در ارتباط با مجموعه این حوادث، دو سازمان ارزیابی ایمنی هوش مصنوعی، METR و Redwood Research، در ۲۲ اکتبر اعلام کردند که در حسابرسی‌های آزمایشی انجام‌شده در نیمه نخست سال جاری، چندین آسیب‌پذیری جدید در سامانه‌های داخلی اوپن‌ای‌آی شناسایی کرده‌اند. آن‌ها همچنین روش‌هایی را یافته‌اند که به عامل‌های هوش مصنوعی اجازه می‌دهد صدها اقدام خود را از دید سامانه‌های نظارتی پنهان کنند. اوپن‌ای‌آی در پاسخ گفت همه آسیب‌پذیری‌های مربوط به سازوکارهای دفاعی محیط عملیاتی برطرف شده‌اند؛ بااین‌حال، هر دو سازمان تأکید کردند که اثربخشی این اصلاحات را مستقلاً بررسی نکرده‌اند.
گسترش سیاست «قطع اینترنت هنگام آموزش» در صنعت
پیش‌زمینه این تصمیم، حادثه‌ای در ماه ژوئیه بود که طی آن یک مدل تحت آزمایش به سامانه‌های پلتفرم هوش مصنوعی خارجی Hugging Face دسترسی پیدا کرد. اوپن‌ای‌آی پس از آن، بیش از ۱۰۰ سازمان را از حوادث مربوط به فعالیت غیرمجاز عامل‌های هوش مصنوعی مطلع کرد.
اقدامات مشابهی در دیگر بخش‌های صنعت نیز در حال گسترش است. شرکت آمریکایی Anthropic هم در همین ماه اعلام کرد که پس از حادثه‌ای که طی آن یک مدل در جریان ارزیابی داخلی، داده‌هایی را بدون مجوز به یک وب‌سایت خارجی فرستاد، دسترسی اینترنت را در محیط ارزیابی خود قطع کرده است.
ایتان مولیک، استاد مدرسه وارتون دانشگاه پنسیلوانیا، گفت نباید گزارش‌های ایمنی شرکت‌های هوش مصنوعی را بدون بررسی و به‌طور کامل باور کرد. او در عین حال معتقد است هزینه دست‌کم‌گرفتن خطرها بیشتر است.
تأثیر مستقیم این تحولات بر بازار در حال حاضر محدود است. اوپن‌ای‌آی میزان پیامدهای مالی توقف آموزش را اعلام نکرده است. بااین‌حال، هم‌زمان با ادامه رقابت برای توسعه مدل‌های پیشرفته در دو محور «توانمندی» و «مهارپذیری»، طراحی امنیتی زیرساخت‌های آموزش و شفافیت در افشای آسیب‌پذیری‌ها به عواملی اثرگذار بر ارزش‌گذاری شرکت‌ها تبدیل می‌شوند. برای شرکت‌هایی که عامل‌های هوش مصنوعی را در فعالیت‌های خود به کار می‌گیرند، بررسی صرف عملکرد مدل‌ها کافی نیست و ضرورت ارزیابی سازوکار جداسازی و ایزوله‌سازی محیط‌های اجرایی آن‌ها نیز افزایش یافته است.
اوپن‌ای‌آی می‌گوید سیاست قطع دسترسی مستقیم به اینترنت را تا زمانی حفظ خواهد کرد که پیشرفت فناوری‌های ایمنی، اتصال گسترده به اینترنت را توجیه‌پذیر کند.