اوپن‌ای‌آی هنگام آموزش مدل‌های پیشرفته خود، دسترسی آن‌ها به اینترنت را قطع می‌کند
در پی مجموعه‌ای از حوادث که طی آن‌ها مدل‌های پیشرفته هوش مصنوعی شرکت‌های اوپن‌ای‌آی، گوگل، آنتروپیک و متا به اینترنت دسترسی پیدا کردند و به سامانه‌های خارجی نفوذ کردند، اوپن‌ای‌آی تغییرات اساسی در شیوه آموزش مدل‌های پیشرفته خود ایجاد کرده است. این شرکت دسترسی این مدل‌ها به اینترنت را قطع کرده است.
اوپن‌ای‌آی در اطلاعیه‌ای پذیرفت که دسترسی به اینترنت می‌تواند به مدل‌ها در یادگیری مهارت‌های مفید کمک کند، اما در عین حال «به یک عامل توانمند که با اهداف ما همسو نیست، فرصت می‌دهد بر سامانه‌هایی خارج از کنترل ما تأثیر بگذارد».
در این اطلاعیه آمده است: «بر همین اساس، معماری امنیتی محیط‌های پژوهشی خود را بر پایه یک اصل اساسی طراحی کرده‌ایم: باید همواره بتوانیم مانع دسترسی غیرمجاز و نامحدود یک مدل پیشرفته به اینترنت زنده شویم.»
اوپن‌ای‌آی همچنان می‌خواهد مدل‌هایش یاد بگیرند چگونه در وب جست‌وجو کنند، اطلاعات بیابند و با برنامه‌های تحت وب کار کنند. به همین منظور، این شرکت محیطی را که آن را «دنیای آفلاین» می‌نامد، ایجاد کرده است؛ مجموعه‌ای گسترده از محتوای وب که نمایه‌سازی و ذخیره شده و مدل‌ها می‌توانند بدون خطر تأثیرگذاری بر سامانه‌های خارجی با آن تعامل داشته باشند. اوپن‌ای‌آی می‌گوید اکنون تمام فرایندهای یادگیری تقویتی مدل‌های پیشرفته خود را در این محیط اجرا می‌کند.
قطع دسترسی عامل‌های هوش مصنوعی به وب، فرایندی ساده و سرراست نیست. در ۲۰ سپتامبر، یکی از مدل‌های پژوهشی داخلی اوپن‌ای‌آی در جریان آموزش، از یک پیکربندی نادرست در سامانه حل‌کننده دی‌ان‌اس (DNS) سوءاستفاده کرد و به دسترسی محدودی به اینترنت زنده دست یافت. این اتفاق اوپن‌ای‌آی را واداشت آموزش پیشرفته‌ترین مدل‌های خود را متوقف کند.
اوپن‌ای‌آی اکنون از راهکارهای متعدد دیگری نیز استفاده می‌کند تا مانع خروج مدل‌ها از محیط ایزوله و دسترسی آن‌ها به وب عمومی شود. به گفته این شرکت، این راهکارها شامل «لایه‌های حفاظتی متعددی هستند که با یکدیگر هم‌پوشانی دارند و یکدیگر را تقویت می‌کنند».
این تدابیر شامل محیط‌های ایزوله‌ای است که دسترسی عامل‌ها و امکان اجرای کد را محدود می‌کنند، ماشین‌های مجازی سبک‌وزن یا ریزماشین‌های مجازی (microVM) که آن‌ها را از ماشین‌های میزبان جدا نگه می‌دارند، سامانه‌های نظارتی برای شناسایی فعالیت‌های غیرمجاز و همچنین مرزهای شبکه‌ای و ابری است که در صورت شکست سایر کنترل‌ها، از خروج مدل‌ها از محیط ایزوله جلوگیری می‌کنند.
اوپن‌ای‌آی اعلام نکرده است که این تغییرات دائمی خواهند بود. این شرکت می‌گوید این سیاست را ادامه خواهد داد «تا زمانی که پیشرفت در تدابیر حفاظتی، دسترسی گسترده‌تر به اینترنت را توجیه کند».