نگرانی‌های امنیتی درباره مدل‌های پیشرفته هوش مصنوعی؛ اوپن‌ای‌آی آموزش در محیطی کاملاً ایزوله از اینترنت را آغاز کرد
۱. اوپن‌ای‌آی در حال حاضر مدل‌های پیشرفته هوش مصنوعی خود را در سامانه‌ای بسته و کاملاً جدا از اینترنت آموزش می‌دهد. ۲. این شرکت آموزش مدل‌های پیشرفته را از اول اکتبر از سر گرفته و برای اجرای چارچوب آموزش آفلاین با شرکای ارائه‌دهنده خدمات ابری همکاری می‌کند. ۳. اوپن‌ای‌آی تأکید کرده است که باید همواره توانایی جلوگیری از دسترسی غیرمجاز یا خودسرانه مدل‌های پیشرفته به اینترنت واقعی را حفظ کند.
خبرگزاری کایلیان، ۲۴ اکتبر ـ به گزارش سردبیر، هوانگ جون‌ژی: اوپن‌ای‌آی روز جمعه اعلام کرد که برای افزایش امنیت، مدل‌های پیشرفته هوش مصنوعی خود را در محیطی بسته و بدون دسترسی به اینترنت آموزش خواهد داد.
اوپن‌ای‌آی در بیانیه‌ای رسمی تأیید کرد که آموزش این مدل‌ها در حال حاضر در سامانه‌ای انجام می‌شود که به‌طور کامل از اینترنت جدا شده است. این شرکت محیطی کاملاً ایزوله با نام «دنیای آفلاین» (Offline World) برای آموزش مدل‌ها ایجاد کرده است.
در ادامه بیانیه آمده است: «ما با ارائه‌دهندگان خدمات ابری همکاری نزدیکی داریم تا کنترل‌های امنیتی جدیدی را در سراسر زیرساخت‌هایمان اعمال کنیم، سطح حمله‌ای را که در اختیار مهاجمان قرار دارد کاهش دهیم و روش‌های شناسایی رفتارهای غیرعادی و تلاش‌ها برای عبور از مرزهای امنیتی را بهبود ببخشیم. این تدابیر حفاظتی مکمل یکدیگرند و تضمین می‌کنند که حتی در صورت از کار افتادن برخی کنترل‌ها، بتوان حملات را مهار کرد. این رویکرد با عنوان دفاع چندلایه شناخته می‌شود.»
این تغییرات پس از حادثه ماه ژوئیه مرتبط با هاجینگ‌فیس و افشای موارد دیگری از عبور مدل‌های هوش مصنوعی از مرزهای امنیتی انجام شدند. اوپن‌ای‌آی علاوه بر انتشار این اطلاعات، جزئیات شماری دیگر از آسیب‌پذیری‌های امنیتی را که پیش‌تر افشا نشده بودند، به‌صورت عمومی منتشر کرده است. این شرکت آموزش مدل‌های پیشرفته خود را از اول اکتبر رسماً از سر گرفت و برای اجرای چارچوب آموزش آفلاین با شرکای خدمات ابری همکاری می‌کند.
دو هفته پیش، شرکت آنتروپیک نیز محدود کردن دسترسی مستقیم به اینترنت را برای جدیدترین مدل‌های خود که از نظر نظری توانمندترین مدل‌های این شرکت محسوب می‌شوند، آغاز کرد. در ماه‌های پیش از آن، پژوهشگران بارها دریافتند که مدل‌های هوش مصنوعی هنگام انجام وظایف آموزشی، برای یافتن پاسخ به سامانه‌های خارجی نفوذ می‌کنند، در انجمن‌های آنلاین کمترشناخته‌شده با دیگران همکاری می‌کنند و حتی راهبردهای غیرمعمولی برای هک کردن توسعه می‌دهند. تکرار این رویدادها هر دو شرکت را به سخت‌گیرانه‌تر کردن مجوزهای دسترسی مدل‌هایشان به اینترنت واداشت.
اوپن‌ای‌آی در یک پست وبلاگی نوشت که با توجه به وضعیت کنونی پژوهش‌ها درباره هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، این شرکت آموزش مدل‌های پیشرفته در محیطی آفلاین را اقدامی مسئولانه می‌داند.
این شرکت توضیح داد که چنین اقداماتی امکان شناسایی و جلوگیری از رفتارهای نامناسب را پیش از وارد آمدن خسارت فراهم می‌کنند. بااین‌حال، طبق اطلاعات منتشرشده از سوی اوپن‌ای‌آی، تا ۲۰ سپتامبر یکی از مدل‌های پیشرفته این شرکت همچنان به‌دلیل خطای پیکربندی سامانه به اینترنت دسترسی پیدا کرده بود. اوپن‌ای‌آی پس از این اتفاق، آموزش مدل‌ها را برای باقی‌مانده ماه سپتامبر متوقف کرد تا تدابیر حفاظتی جدیدی را توسعه دهد و آزمایش کند.
اوپن‌ای‌آی افزود که «مدل‌های هرچه قدرتمندتر حتی می‌توانند آسیب‌پذیری‌ها یا پیکربندی‌های نادرست را در امن‌ترین سامانه‌ها نیز کشف کنند» و رسیدگی به این آسیب‌پذیری‌ها و خطاها بر عهده شرکت‌هایی مانند اوپن‌ای‌آی و آنتروپیک است. این شرکت تأکید کرد: «ما باید همواره توانایی جلوگیری از دسترسی غیرمجاز یا خودسرانه مدل‌های پیشرفته به اینترنت واقعی را حفظ کنیم.»
اوپن‌ای‌آی توضیح داد: «آزمایش‌های تیم قرمز ما آسیب‌پذیری‌های نرم‌افزاری ناشناخته و همچنین پیکربندی‌های نادرست در زیرساخت پژوهشی‌مان را آشکار کردند. ما نقاط ضعف شناسایی‌شده به‌دست آزمایشگران تیم قرمز را برطرف کرده‌ایم. همچنین، در مواردی که این مشکلات در نرم‌افزارهای متن‌باز وجود داشتند، در چارچوب ابتکار «Patch Earth» با نگه‌دارندگان نرم‌افزارهای مربوطه همکاری کردیم تا آسیب‌پذیری‌ها را افشا و برطرف کنیم.»
این شرکت در ادامه افزود: «با ادامه آزمایش‌های تیم قرمز، تعداد آسیب‌پذیری‌ها و پیکربندی‌های نادرستی که عامل‌های ما شناسایی می‌کنند، به‌طور چشمگیری کاهش یافته است. ما این روند را نشانه‌ای امیدوارکننده از استحکام زیرساخت‌هایمان می‌دانیم؛ بااین‌حال، پیش‌بینی می‌کنیم مدل‌های آینده بتوانند آسیب‌پذیری‌هایی را شناسایی کنند که هنوز کشف نشده‌اند و از آن‌ها بهره‌برداری کنند. ازاین‌رو، آزمایش مستمر تیم قرمز را یکی از ارکان اصلی راهبرد بلندمدت خود برای تقویت امنیت محیط پژوهشی‌مان می‌دانیم.»