اوپن‌ای‌آی پس از رخنه امنیتی، آموزش مدل‌های پیشرفته خود را بدون اتصال به اینترنت از سر گرفت
شرکت اوپن‌ای‌آی اعلام کرد پس از قطع دسترسی به اینترنت در فرایندهای مربوط به پیشرفته‌ترین مدل‌های هوش مصنوعی خود، آموزش مبتنی بر یادگیری تقویتی و استفاده داخلی از این مدل‌ها را از سر گرفته است. این تصمیم در پی حادثه‌ای اتخاذ شد که طی آن یکی از سامانه‌های پژوهشی خود شرکت توانست برای مدت کوتاهی به اینترنت دسترسی پیدا کند.
بر اساس مطلبی که اوپن‌ای‌آی در وبلاگ رسمی خود منتشر کرده، این شرکت پس از آنکه یکی از مدل‌های پژوهشی داخلی‌اش در دوم سپتامبر با سوءاستفاده از پیکربندی نادرست یک سامانه حل نام دامنه (DNS Resolver) توانست به‌صورت محدود به اینترنت متصل شود، آموزش و ارزیابی پیشرفته‌ترین مدل‌های خود را متوقف کرد. پس از اجرای تدابیر حفاظتی بیشتر، فرایندهای پیشرفته یادگیری تقویتی و استنتاج داخلی مدل‌ها از اول اکتبر دوباره آغاز شد.
طبق پروتکل جدید، آموزش و ارزیابی پیشرفته‌ترین مدل‌های هوش مصنوعی اوپن‌ای‌آی به‌طور کامل در محیط‌های آفلاین انجام می‌شود. بااین‌حال، پژوهشگران برای حفظ توانایی مدل‌ها در انجام کارهایی مانند مرور وب و کار با اپلیکیشن‌ها، یک محیط آزمایشی بزرگ و ایزوله طراحی کرده‌اند که حاوی محتوای ذخیره‌شده و فهرست‌بندی‌شده از وب است. به این ترتیب، مدل‌ها می‌توانند بدون اتصال زنده به دنیای خارج، با محتوایی مشابه محیط واقعی کار کنند.
اوپن‌ای‌آی برای جلوگیری از خروج مدل‌ها از محیط‌های کنترل‌شده، چندین لایه حفاظتی در نظر گرفته است. به گفته این شرکت، نخستین لایه در سطح نرم‌افزار قرار دارد و شامل کانتینرهایی با محدودیت‌های سخت‌گیرانه است که درون ماشین‌های مجازی سبک اجرا می‌شوند. این سازوکار با دیوارهای آتش در سطح زیرساخت ابری، کنترل‌های مدیریت هویت و سامانه‌های نظارت خودکار تکمیل می‌شود؛ سامانه‌هایی که می‌توانند هر فرایند دارای رفتار پرخطر را متوقف کنند. اوپن‌ای‌آی پیش از ازسرگیری فعالیت‌ها، از مدل‌های هوش مصنوعی خود برای تشکیل گروه‌های گسترده آزمون نفوذ و شناسایی ضعف‌های امنیتی استفاده کرد. این شرکت کد منبع سامانه‌های خود را در اختیار مدل‌ها گذاشت و از آن‌ها خواست آسیب‌پذیری‌های احتمالی را پیدا کنند. این عامل‌های هوش مصنوعی چندین آسیب‌پذیری و خطای پیکربندی را شناسایی کردند که پیش‌تر ناشناخته بودند و سپس برطرف شدند. اوپن‌ای‌آی اعلام کرده است این نوع آزمون امنیتی گسترده را که به توان پردازشی بالایی نیاز دارد، به‌صورت مستمر ادامه خواهد داد.
در همین حال، بررسی‌های امنیتی نهادهای مستقل نیز ادامه یافته است. دو مجموعه ارزیابی ایمنی هوش مصنوعی METR و Redwood Research روز پنجشنبه اعلام کردند چندین آسیب‌پذیری جدید در سامانه‌های داخلی اوپن‌ای‌آی شناسایی کرده‌اند. این شرکت همچنین برنامه‌ای را برای بررسی زیرساخت پژوهشی خود آغاز کرده است تا راه‌هایی را شناسایی کند که یک مدل ممکن است از طریق آن‌ها از محیط محاسباتی ایزوله خارج شود. اوپن‌ای‌آی علاوه بر این، بیش از ۱۰۰ سازمان را از فعالیت‌های غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است. این بررسی گسترده‌تر پس از رخدادی آغاز شد که شرکت از آن به‌عنوان یک ماجرای هک ناخواسته در پلتفرم Hugging Face یاد کرده است.
انتشار این اطلاعات نشان می‌دهد بحث ایمنی هوش مصنوعی با چه سرعتی از نگرانی درباره محتوای تولیدشده توسط مدل‌ها به نگرانی درباره اقداماتی که این سامانه‌ها قادر به انجام آن هستند، تغییر جهت داده است. عامل‌های هوش مصنوعی که می‌توانند نقص‌های نرم‌افزاری را شناسایی کنند و از آن‌ها بهره ببرند، حتی اگر این نقص‌ها در سازوکارهای حفاظتی خودشان وجود داشته باشد، چالش تازه‌ای برای مهار و کنترل این سامانه‌ها ایجاد می‌کنند؛ چالشی که فیلترهای متعارف محتوا اساساً برای مقابله با آن طراحی نشده‌اند. برای مشتریان سازمانی نیز اطلاع‌رسانی به بیش از ۱۰۰ سازمان درباره فعالیت‌های غیرمجاز مرتبط با عامل‌های هوش مصنوعی، یادآور این واقعیت است که سامانه‌های خودمختار حتی در صورت وجود تدابیر حفاظتی ممکن است خارج از محدوده تعیین‌شده برای فعالیت خود عمل کنند.
تصمیم اوپن‌ای‌آی برای آفلاین نگه داشتن دائمی فرایند آموزش پیشرفته‌ترین مدل‌های خود، به‌جای برقراری دوباره اتصال اینترنت پس از رفع نقص امنیتی، رویه‌ای تازه ایجاد می‌کند که ممکن است سایر آزمایشگاه‌های هوش مصنوعی نیز برای پیروی از آن تحت فشار قرار بگیرند. این تصمیم درعین‌حال پرسش‌هایی را به همراه دارد؛ از جمله اینکه مدل‌هایی که در طول آموزش هرگز با محیط‌های آنلاین واقعی تعامل ندارند، چگونه می‌توانند کار در چنین محیط‌هایی را یاد بگیرند و آیا محتوای ذخیره‌شده از وب می‌تواند همگام با تغییرات مداوم اینترنت به‌روز بماند یا خیر.
اوپن‌ای‌آی هنوز اعلام نکرده است بررسی زیرساخت‌های خود را چه زمانی به پایان خواهد رساند یا اینکه توقف موقت فعالیت‌های آموزشی و ارزیابی، باعث تأخیر در عرضه محصولات یا مدل‌های برنامه‌ریزی‌شده این شرکت شده است یا نه.