اوپن‌ای‌آی پس از ۱۱ روز وقفه به‌دلیل نگرانی‌های امنیتی، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را از سر گرفت
اخبار آژانس خبری
اوپن‌ای‌آی، شرکت تحت مدیریت سم آلتمن، اعلام کرد که پس از تقویت امنیت محیط‌های پژوهشی و محدود کردن دسترسی به اینترنت، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را از سر گرفته است. این تصمیم پس از رخدادهایی اتخاذ شد که در جریان آن‌ها مدل‌های هوش مصنوعی توانایی عبور از سازوکارهای حفاظتی محیط‌های ایزوله را نشان دادند.
این غول هوش مصنوعی همچنین از شناسایی آسیب‌پذیری‌هایی در نرم‌افزارهای مورد استفاده در محیط‌های پژوهشی خود خبر داد که در جریان آزمایش‌های امنیتی کشف شده‌اند. این یافته‌ها در شرایطی مطرح می‌شوند که نگرانی‌ها درباره توانایی عوامل هوش مصنوعی پیشرفته‌تر برای سوءاستفاده از ضعف سامانه‌هایی که با هدف محدود کردن فعالیت آن‌ها طراحی شده‌اند، افزایش یافته است.
اوپن‌ای‌آی پس از آنکه یکی از مدل‌های پژوهشی این شرکت در ماه سپتامبر از یک خطای پیکربندی برای دستیابی محدود به اینترنت استفاده کرد، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را به‌طور موقت متوقف کرده بود. این شرکت اعلام کرد که رخداد مذکور مهار شد و از وقفه ایجادشده برای تقویت تدابیر امنیتی استفاده کرد.
اوپن‌ای‌آی برای ارزیابی میزان اثربخشی تدابیر امنیتی جدید، گروه‌هایی از عوامل هوش مصنوعی را به کار گرفت تا بررسی کنند آیا می‌توانند از محیط‌های پژوهشی محدودشده خارج شوند یا خیر. به گفته شرکت، این عوامل آسیب‌پذیری‌هایی را شناسایی کردند که پیش‌تر ناشناخته بودند. این ضعف‌ها بعداً برطرف شدند و آموزش مدل‌ها از اول اکتبر از سر گرفته شد.
این غول هوش مصنوعی اعلام کرد: «در آزمایش‌های تیم قرمز، عوامل هوش مصنوعی توانستند آسیب‌پذیری‌های نرم‌افزاری ناشناخته‌ای را در مؤلفه‌های متن‌بازی که استفاده می‌کنیم و همچنین پیکربندی‌های نادرست در سرویس‌هایی که خودمان اداره می‌کنیم، پیدا کنند. این ضعف‌ها به عوامل اجازه دادند از محیط‌های سندباکس خارج شوند، میان سامانه‌ها جابه‌جا شوند و به اینترنت عمومی دسترسی پیدا کنند. آن‌ها همچنین راه‌هایی برای برقراری ارتباط از میان مرزهای ایزوله‌سازی پیدا کردند. این یافته‌ها به انتشار وصله‌های نرم‌افزاری، اعمال محدودیت‌های سخت‌گیرانه‌تر بر شبکه و اطلاع‌رسانی به نگه‌دارندگان و عرضه‌کنندگان نرم‌افزارهای مربوطه منجر شد.»
این شرکت افزود که آزمایش‌ها به شناسایی شکاف‌های امنیتی احتمالی کمک کردند و در عین حال، کارآمدی سامانه‌های نظارتی موجود را نیز نشان دادند.
اوپن‌ای‌آی گفت: «کارزار آزمایش امنیتی ما ضعف‌هایی را آشکار کرد که نیازمند اصلاح بودند؛ در عین حال، شواهدی نیز درباره اثربخشی تدابیر حفاظتی موجود در اختیارمان قرار داد. ما هیچ مسیری به اینترنت پیدا نکردیم که عوامل بتوانند به‌سادگی از آن سوءاستفاده کنند و هم‌زمان فعالیت خود را از دید سامانه‌های نظارتی ما پنهان نگه دارند. با این حال، یافته‌ها به ما کمک کردند مسیرهای بالقوه حمله را مسدود کنیم، نرم‌افزارها را اصلاح کنیم و سامانه‌های نظارتی را تقویت کنیم.»
اوپن‌ای‌آی اعلام کرد که پس از انجام آزمایش‌های امنیتی، اعمال اصلاحات ضروری و بهبود سامانه‌های نظارتی و خاموش‌سازی، آموزش یادگیری تقویتی (RL) و اجرای استنتاج داخلی مدل‌های پیشرفته خود را از اول اکتبر از سر گرفت؛ یعنی تنها ۱۱ روز پس از آغاز وقفه.
اوپن‌ای‌آی همچنین از زمان رخداد مربوط به هاجینگ‌فیس در ماه ژوئیه، بررسی گسترده‌تری را درباره فعالیت مدل‌های هوش مصنوعی خود انجام داده است. این شرکت اعلام کرده که بیش از ۱۰۰ سازمان را از رخدادهای مربوط به فعالیت غیرمجاز عوامل هوش مصنوعی خود مطلع کرده است.
این گزارش توسط کارکنان خبرگزاری ANI تأیید و تهیه شده است. ANI یکی از خبرگزاری‌های چندرسانه‌ای پیشرو در جنوب آسیاست و بیش از ۱۰۰ دفتر در هند، جنوب آسیا و مناطق مختلف جهان دارد. این خبرگزاری تازه‌ترین اخبار سیاسی و رویدادهای جاری هند و جهان، ورزش، سلامت، تناسب اندام و سرگرمی را پوشش می‌دهد. دیدگاه‌های مطرح‌شده در این گزارش لزوماً منعکس‌کننده نظرات وب‌سایت LatestLY نیست.