ازسرگیری آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی OpenAI پس از وقفه ۱۱روزه به‌دلیل نگرانی‌های امنیتی
دهلی نو، هند، ۲۴ اکتبر (ANI) ـ شرکت OpenAI به مدیریت سم آلتمن اعلام کرد آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را پس از تقویت تدابیر امنیتی در محیط‌های پژوهشی و محدود کردن دسترسی به اینترنت از سر گرفته است. این تصمیم پس از رخدادهایی گرفته شد که در آن‌ها مدل‌های هوش مصنوعی توانایی عبور از سازوکارهای حفاظتی محیط‌های ایزوله را نشان دادند.
این شرکت بزرگ فعال در حوزه هوش مصنوعی همچنین از شناسایی آسیب‌پذیری‌هایی در نرم‌افزارهای مورد استفاده در محیط‌های پژوهشی خود خبر داد که در جریان آزمایش‌های امنیتی کشف شده بودند. این یافته‌ها در شرایطی به دست آمدند که نگرانی‌ها درباره احتمال سوءاستفاده عامل‌های هوش مصنوعیِ هرچه توانمندتر از ضعف‌های سامانه‌هایی که برای محدود کردن فعالیت آن‌ها طراحی شده‌اند، افزایش یافته است.
OpenAI پس از آنکه یکی از مدل‌های پژوهشی‌اش در ماه سپتامبر از یک خطای پیکربندی برای دستیابی محدود به اینترنت استفاده کرد، آموزش توانمندترین مدل‌های هوش مصنوعی خود را به‌طور موقت متوقف کرده بود. این شرکت اعلام کرد که رخداد مذکور مهار شد و از وقفه پیش‌آمده برای تقویت تدابیر امنیتی استفاده کرد.
OpenAI برای ارزیابی میزان اثربخشی اقدامات امنیتی جدید، گروه‌هایی از عامل‌های هوش مصنوعی را به کار گرفت تا بررسی کنند آیا می‌توانند از محیط‌های پژوهشی محدودشده خارج شوند یا خیر. این شرکت اعلام کرد عامل‌ها آسیب‌پذیری‌هایی را شناسایی کردند که پیش‌تر ناشناخته بودند. این ضعف‌ها بعداً برطرف شدند و در پی آن، آموزش مدل‌ها از اول اکتبر از سر گرفته شد.
این شرکت بزرگ هوش مصنوعی اعلام کرد: «در آزمایش‌های تیم قرمز، عامل‌ها توانستند آسیب‌پذیری‌های نرم‌افزاریِ پیش‌تر ناشناخته‌ای را در مؤلفه‌های متن‌باز مورد استفاده ما و همچنین خطاهای پیکربندی در سرویس‌هایی که خودمان اداره می‌کنیم، پیدا کنند. این ضعف‌ها به عامل‌ها امکان دادند از محیط‌های سندباکس خارج شوند، بین سامانه‌ها جابه‌جا شوند و به اینترنت عمومی دسترسی پیدا کنند. آن‌ها همچنین راه‌هایی برای برقراری ارتباط از میان مرزهای جداسازی پیدا کردند. این یافته‌ها به انتشار وصله‌های نرم‌افزاری، اعمال محدودیت‌های سخت‌گیرانه‌تر بر شبکه و اطلاع‌رسانی به نگه‌دارندگان و عرضه‌کنندگان نرم‌افزارهای مربوطه منجر شد.»
این شرکت همچنین گفت آزمایش‌ها به شناسایی شکاف‌های امنیتی احتمالی کمک کردند و در عین حال، اثربخشی سامانه‌های نظارتی موجود را نیز نشان دادند.
OpenAI افزود: «کارزار آزمایش امنیتی تیم قرمز ما ضعف‌هایی را آشکار کرد که نیازمند اصلاح بودند و هم‌زمان شواهدی درباره کارآمدی تدابیر حفاظتی موجود در اختیارمان گذاشت. ما هیچ مسیری برای دسترسی به اینترنت پیدا نکردیم که عامل‌ها بتوانند به‌سادگی از آن سوءاستفاده کنند و در عین حال فعالیت خود را از دید سامانه‌های نظارتی ما پنهان نگه دارند. با این حال، یافته‌ها به ما کمک کردند مسیرهای احتمالی حمله را مسدود کنیم، نرم‌افزارها را وصله کنیم و نظارت را تقویت کنیم.»
بنابراین، OpenAI پس از انجام آزمایش‌های امنیتی، اعمال اصلاحات لازم و بهبود سامانه‌های نظارتی و خاموش‌سازی، اعلام کرد که «آموزش یادگیری تقویتی (RL) و اجرای استنتاج داخلی روی مدل‌های پیشرفته مرزی خود را از اول اکتبر از سر گرفته است»؛ یعنی تنها ۱۱ روز پس از آغاز وقفه.
OpenAI از زمان رخداد مربوط به Hugging Face در ماه ژوئیه، بررسی گسترده‌تری را درباره فعالیت‌های مدل‌های هوش مصنوعی خود نیز انجام داده است. این شرکت اعلام کرده که بیش از ۱۰۰ سازمان را درباره رخدادهای مرتبط با فعالیت غیرمجاز عامل‌های هوش مصنوعی خود مطلع کرده است. (ANI)