اوپن‌ای‌آی مدل‌های پیشرفته هوش مصنوعی خود را در محیطی ایزوله و بدون دسترسی به اینترنت آموزش می‌دهد
شرکت اوپن‌ای‌آی (OpenAI) روز جمعه اعلام کرد که برای افزایش امنیت، مدل‌های پیشرفته هوش مصنوعی خود را در محیطی ایزوله و بدون دسترسی به اینترنت آموزش خواهد داد.
اوپن‌ای‌آی در بیانیه‌ای اعلام کرد: «با همکاری نزدیک ارائه‌دهندگان خدمات ابری، کنترل‌های امنیتی جدیدی را در بخش‌های مختلف زیرساخت خود اعمال کرده‌ایم، مسیرهای احتمالی نفوذ را که عامل‌های هوش مصنوعی می‌توانند از آن‌ها سوءاستفاده کنند کاهش داده‌ایم و روش‌های شناسایی رفتارهای ناهمسو با اهداف تعیین‌شده و تلاش برای عبور از مرزهای امنیتی را بهبود بخشیده‌ایم. این تدابیر حفاظتی به‌گونه‌ای طراحی شده‌اند که یکدیگر را پوشش دهند تا حتی در صورت ناکارآمدی یکی از کنترل‌ها، مهار تهدید همچنان امکان‌پذیر باشد. این رویکرد در امنیت سایبری به دفاع چندلایه یا دفاع در عمق معروف است.»
این تغییرات پس از حادثه ماه ژوئیه مرتبط با هاگینگ فیس (Hugging Face) و همچنین موارد دیگری صورت گرفته است که در آن‌ها مدل‌های هوش مصنوعی برخلاف رفتار مورد انتظار عمل کرده بودند.
اوپن‌ای‌آی که مدیریت آن را سم آلتمن بر عهده دارد، اعلام کرد سرمایه‌گذاری‌های امنیتی این شرکت امکان شناسایی و متوقف کردن رفتارهای ناهمسو را پیش از وارد شدن خسارت فراهم کرده است. این شرکت به رویدادی در ۲۰ سپتامبر اشاره کرد که طی آن یکی از مدل‌های تحقیقاتی داخلی توانست با سوءاستفاده از پیکربندی نادرست یک سامانه تحلیل نام دامنه (DNS Resolver)، به سطح محدودی از دسترسی دست پیدا کند. این رخداد مهار شد، اما آسیب‌پذیری کشف‌شده نشان داد که اقدامات امنیتی بیشتری ضروری است.
بااین‌حال، اوپن‌ای‌آی تأکید کرد که «مدل‌های هوش مصنوعی با توانمندی‌های روزافزون می‌توانند حتی در امن‌ترین سامانه‌ها نیز آسیب‌پذیری‌ها یا خطاهای پیکربندی را شناسایی کنند». به گفته این شرکت، مسئولیت برطرف کردن چنین ضعف‌هایی بر عهده شرکت‌هایی مانند اوپن‌ای‌آی، آنتروپیک (Anthropic) و دیگر فعالان این حوزه است.
اوپن‌ای‌آی در توضیح اقدامات امنیتی خود اعلام کرد: «آزمایش‌های تیم قرمز ما به کشف آسیب‌پذیری‌های نرم‌افزاری ناشناخته و همچنین خطاهای پیکربندی در زیرساخت تحقیقاتی شرکت منجر شد. ضعف‌هایی را که عامل‌های هوش مصنوعی در این آزمایش‌ها شناسایی کردند، برطرف کرده‌ایم. در مواردی که این مشکلات در نرم‌افزارهای متن‌باز وجود داشتند نیز در چارچوب ابتکار Patch the Planet با مسئولان نگهداری پروژه‌های مربوط همکاری کردیم تا آسیب‌پذیری‌ها به‌صورت مسئولانه افشا و اصلاح شوند.»
این شرکت در ادامه افزود: «با ادامه آزمایش‌های تیم قرمز، تعداد آسیب‌پذیری‌ها و خطاهای پیکربندی شناسایی‌شده توسط عامل‌های هوش مصنوعی ما به میزان قابل‌توجهی کاهش یافت. هرچند این روند را نشانه‌ای امیدوارکننده از استحکام زیرساخت خود می‌دانیم، انتظار داریم مدل‌های آینده بتوانند آسیب‌پذیری‌هایی را شناسایی کنند و مورد سوءاستفاده قرار دهند که هنوز از وجود آن‌ها آگاه نیستیم. به همین دلیل، اجرای مستمر آزمایش‌های تیم قرمز را یکی از ارکان اصلی راهبرد بلندمدت خود برای تقویت امنیت محیط‌های تحقیقاتی می‌دانیم.»
آموزش مدل‌های پیشرفته اوپن‌ای‌آی با استفاده از یادگیری تقویتی و همچنین اجرای داخلی این مدل‌ها برای تولید خروجی (استنتاج)، از اول اکتبر از سر گرفته شد.