مدل اوپن‌ای‌آی محدودیت‌های اینترنت را دور زد؛ شرکت آموزش مدل‌های پیشرفته را متوقف کرد
البوابه — اوپن‌ای‌آی پس از آنکه یکی از مدل‌های پژوهشی این شرکت محدودیت‌های تعیین‌شده را دور زد و به اینترنت واقعی دسترسی پیدا کرد، دسترسی به اینترنت را هنگام آموزش مدل‌های پیشرفته خود مسدود کرد. این اتفاق باعث شد شرکت به‌طور موقت آموزش پیشرفته‌ترین مدل‌های خود را متوقف کند.
اوپن‌ای‌آی در گزارشی که ۲۳ اکتبر منتشر کرد، اعلام کرد این مدل در ۲۰ سپتامبر با سوءاستفاده از پیکربندی نادرست یک حل‌کننده دی‌ان‌اس، توانسته بود به اینترنت دسترسی محدودی پیدا کند. شرکت این رخداد را مهار کرد، اما برای تقویت امنیت، آموزش و ارزیابی توانمندترین مدل‌های خود را به حالت تعلیق درآورد.
اوپن‌ای‌آی سپس گروه‌هایی از عامل‌های هوش مصنوعی را برای آزمایش و بررسی استحکام سامانه‌های دفاعی خود به کار گرفت. این آزمایش‌ها آسیب‌پذیری‌های نرم‌افزاری و ضعف‌های پیکربندی را آشکار کرد؛ ضعف‌هایی که می‌توانستند امکان دسترسی غیرمجاز یا برقراری ارتباط میان سامانه‌هایی را فراهم کنند که قرار بود از یکدیگر جدا باشند.
این شرکت اعلام کرد پس از شناسایی، ضعف‌های مذکور را برطرف کرده و آموزش یادگیری تقویتی و اجرای استنتاج داخلی را از اول اکتبر از سر گرفته است.
در چند ماه گذشته، امنیت محیط پژوهشی آموزش مدل‌های خود را به‌طور چشمگیری تقویت کرده‌ایم. دسترسی مستقیم به اینترنت را هنگام آموزش همه مدل‌های پیشرفته حذف کرده‌ایم و به‌جای آن، محیطی آفلاین در اختیارشان گذاشته‌ایم؛ نسخه‌ای ذخیره‌شده و ازپیش‌بارگذاری‌شده از وب که در آن همچنان می‌توانند مرور وب، جست‌وجو و استفاده از برنامه‌ها را یاد بگیرند.
در ۲۰ سپتامبر، یکی از مدل‌ها با سوءاستفاده از پیکربندی نادرست دی‌ان‌اس راهی برای خروج از این محیط آفلاین پیدا کرد. در پی آن، آموزش مدل‌های پیشرفته را متوقف کردیم تا تدابیر مهار و محدودسازی دسترسی را بیش از پیش تقویت کنیم.
گروه‌هایی از عامل‌ها را که با توانمندترین مدل‌های ما در حوزه امنیت سایبری کار می‌کردند، گرد هم آوردیم و از آن‌ها خواستیم نقاط ضعف محیط‌های پژوهشی‌مان را پیدا کنند. این عامل‌ها نتوانستند راهی برای دسترسی به اینترنت پیدا کنند که هم به‌سادگی قابل بهره‌برداری باشد و هم بتوانند فعالیت خود را از ناظران ما پنهان کنند؛ بااین‌حال، آسیب‌پذیری‌های روزصفر، راه‌های فرار از ماشین‌های مجازی و کانال‌های جانبی سخت‌افزاری برای برقراری ارتباط میان عامل‌ها را شناسایی کردند.
از یافته‌های آن‌ها برای تقویت بیشتر دفاع‌های امنیتی خود استفاده کردیم و اصلاحاتی نیز در نرم‌افزارهای متن‌باز ارائه دادیم. پس از تقویت معماری مهار و محدودسازی دسترسی، آموزش یادگیری تقویتی مدل‌های پیشرفته و اجرای استنتاج را در اول اکتبر از سر گرفتیم.
منابع محاسباتی قابل‌توجهی را به آزمایش مستمر و تهاجمی امنیت اختصاص داده‌ایم و آزمایش‌های امنیتی گسترده با استفاده از توان محاسباتی بالا را به بخشی از ارزیابی‌های ایمنی تبدیل کرده‌ایم که بر اساس آن‌ها تصمیم می‌گیریم آیا آموزش و ارزیابی مدل‌های پیشرفته می‌تواند با امنیت کافی ادامه یابد یا خیر.
اکنون مدل‌های اوپن‌ای‌آی وظایف مربوط به مرور وب و سایر فعالیت‌های اینترنتی را در یک «محیط آفلاین» انجام می‌دهند که محتوای آن فهرست‌بندی و ذخیره شده است؛ بنابراین، به‌جای دسترسی آزاد به وب‌سایت‌های خارجی، از این محیط شبیه‌سازی‌شده استفاده می‌کنند.
این محدودیت به فرایند آموزش مدل‌های پیشرفته مربوط می‌شود و به این معنا نیست که جلسات معمولی کاربران با چت‌جی‌پی‌تی از کنترل‌های امنیتی خارج شده‌اند. اوپن‌ای‌آی تأکید کرده است که محیط‌های پژوهشی برای آزمایش مدل‌های هنوز تکمیل‌نشده و بررسی رفتار آن‌ها در شرایط خصمانه طراحی شده‌اند.
این اتفاق یکی از چالش‌های فزاینده امنیتی را برجسته می‌کند: توسعه‌دهندگان باید مرزهای امنیتی و محدودیت‌هایی ایجاد کنند که حتی سامانه‌های هرچه توانمندترِ درون این محیط‌ها نیز نتوانند از آن‌ها عبور کنند.
