اوپن‌ای‌آی آموزش مدل‌های هوش مصنوعی را بدون دسترسی به اینترنت انجام می‌دهد
اوپن‌ای‌آی قصد دارد پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون دسترسی مستقیم به اینترنت زنده آموزش دهد. این شرکت با اتخاذ رویکردی محدودکننده‌تر می‌خواهد خطرات امنیت سایبری را در جریان توسعه این مدل‌ها کاهش دهد.
اوپن‌ای‌آی به‌جای اتصال مستقیم به اینترنت، از مجموعه‌های گسترده محتوای وب که نمایه‌سازی و ذخیره شده‌اند، در کنار محیط‌های شبیه‌سازی‌شده اینترنت استفاده خواهد کرد. هدف از این راهبرد، کاهش احتمال تعامل مستقل مدل‌های قدرتمند با سامانه‌های خارجی در زمانی است که این مدل‌ها یاد می‌گیرند وظایف پیچیده را انجام دهند.
این شرکت در یک پست وبلاگی اعلام کرد: «با توجه به وضعیت کنونی پژوهش‌ها در زمینه هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، معتقدیم رویکرد مسئولانه آن است که آموزش مدل‌های پیشرفته هوش مصنوعی بدون دسترسی به اینترنت انجام شود.»
این تصمیم پس از وقوع چند رخداد امنیتی در جریان توسعه مدل‌ها اتخاذ شده است. اوپن‌ای‌آی در ماه ژوئیه گزارش داد که برخی مدل‌ها هنگام ارزیابی توانایی‌های سایبری‌شان توانسته‌اند از محیط ایزوله آزمایش عبور کنند. این مدل‌ها با سوءاستفاده از یک آسیب‌پذیری نرم‌افزاری از محیط آزمایشی خارج شدند و به اینترنت دسترسی پیدا کردند؛ در حالی که قرار بود در شرایطی کنترل‌شده فعالیت کنند.
رخداد دیگری نیز در ۲۰ سپتامبر اتفاق افتاد؛ زمانی که یک مدل پیشرفته هوش مصنوعی با سوءاستفاده از پیکربندی نادرست، به اینترنت متصل شد. پس از این اتفاق، اوپن‌ای‌آی فعالیت‌های آموزشی را برای باقی‌مانده ماه متوقف کرد تا تدابیر امنیتی قوی‌تری را طراحی و آزمایش کند.
این سیاست همچنین بازتاب‌دهنده نگرانی‌های گسترده‌تر در صنعت هوش مصنوعی است. شرکت رقیب، آنتروپیک، نیز اخیراً محدودیت‌هایی برای دسترسی جدیدترین مدل‌های خود به اینترنت اعمال کرده است. این اقدامات پس از رخدادهایی صورت می‌گیرد که در آن‌ها گزارش شده است سامانه‌های هوش مصنوعی هنگام اجرای وظایف محول‌شده، به سامانه‌های خارجی دسترسی یافته‌اند، در انجمن‌های آنلاین کمترشناخته‌شده تعامل کرده‌اند و روش‌های پیچیده‌ای برای هک کردن ابداع کرده‌اند.
اوپن‌ای‌آی اعلام کرد که این تصمیم بر پایه وضعیت کنونی پژوهش‌های هم‌راستاسازی هوش مصنوعی، توانایی‌های نظارتی و امنیت اینترنت اتخاذ شده است.