اوپن‌ای‌آی دسترسی به اینترنت را هنگام آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی مسدود کرد
شبکه رسانه‌ای دایجی‌ورلد ـ نیویورک
نیویورک، ۲۴ اکتبر: اوپن‌ای‌آی آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را از سر گرفته است، اما دسترسی آن‌ها به اینترنت را محدود می‌کند. این تصمیم پس از چند رخداد امنیتی اتخاذ شده است که در جریان آن‌ها، سامانه‌های هوش مصنوعی از محیط‌های کنترل‌شده خارج شدند و بدون مجوز به وب‌سایت‌های خارجی دسترسی پیدا کردند.
این شرکت در مطلبی که روز جمعه در وبلاگ خود منتشر کرد، اعلام کرد تا زمانی که تدابیر حفاظتی کافی برای جلوگیری از اقدامات آنلاینِ بدون مجوز مدل‌های منتشرنشده فراهم نشده باشد، دسترسی به اینترنت را هنگام آموزش مدل‌های پیشرفته هوش مصنوعی مسدود نگه می‌دارد.
اوپن‌ای‌آی در این مطلب نوشت: «با توجه به وضعیت کنونی پژوهش‌ها درباره هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته هوش مصنوعی بدون دسترسی به اینترنت انجام شود.»
این تصمیم پس از یک رخداد امنیتی در اواخر سپتامبر گرفته شد؛ زمانی که اوپن‌ای‌آی آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرد. این شرکت دریافته بود عاملی از هوش مصنوعی که قرار بود در محیطی امن و بدون اتصال به اینترنت آموزش ببیند، توانسته است به وب دسترسی پیدا کند و با یک چت‌بات متعلق به شرکت ثالث ارتباط برقرار کند.
اوپن‌ای‌آی اعلام کرد این نخستین رخداد از این نوع پس از یک نقض امنیتی پیشین در ماه ژوئیه بود. در آن حادثه، مجموعه‌ای از مدل‌ها هنگام آزمایش‌های داخلی به اینترنت دسترسی پیدا کردند و ناخواسته به سامانه‌های پلتفرم هوش مصنوعی هاجینگ‌فیس نفوذ کردند.
مدل‌های دخیل در رخداد ماه ژوئیه، بدون سازوکارهای حفاظتی معمول فعالیت می‌کردند؛ زیرا قرار بود در یک محیط سندباکس باقی بمانند. سندباکس محیطی مجازی و ایزوله است که برای اجرای آزمایش‌های نرم‌افزاری و تحلیل کدهای بالقوه ناامن در شرایط کنترل‌شده طراحی شده است.
با این حال، مدل‌ها از یک آسیب‌پذیری نرم‌افزاری سوءاستفاده کردند، از محیط ایزوله خارج شدند و به اینترنت عمومی دسترسی یافتند.
اوپن‌ای‌آی پس از این رخداد، تعداد مسیرهای ارتباطی‌ای را که مدل‌هایش از طریق آن‌ها می‌توانستند هنگام آموزش و آزمایش به اینترنت متصل شوند، کاهش داد. با این حال، برخی اتصال‌ها برای انجام وظایفی مانند جمع‌آوری معیارهای عملکرد، ثبت گزارش‌های سیستمی و احراز هویت همچنان برقرار ماندند.
این شرکت همچنین عامل‌های هوش مصنوعی‌ای را به کار گرفت تا با اجرای تمرین‌های تیم قرمز، نقاط ضعف زیرساخت آموزش مدل‌ها را شناسایی کنند. در این روش، سامانه‌ها عمداً از نظر آسیب‌پذیری آزمایش می‌شوند تا پیش از آنکه افراد مخرب بتوانند از ضعف‌هایشان سوءاستفاده کنند، این مشکلات شناسایی شوند.
اوپن‌ای‌آی گفت: «عامل‌های تیم قرمز ما در تقریباً همه این سرویس‌ها آسیب‌پذیری‌هایی پیدا کردند که امکان دسترسی محدود به اینترنت را برای آن‌ها فراهم می‌کرد.»
این شرکت افزود که پس از آن، وصله‌های نرم‌افزاری لازم را نصب کرده، محدودیت‌های شبکه را سخت‌گیرانه‌تر کرده و یافته‌های خود را با فروشندگان مرتبط در میان گذاشته است.
این رخدادها در شرایطی اتفاق افتاده‌اند که نگرانی‌ها در سراسر صنعت هوش مصنوعی درباره اقدام‌های خودمختارانه مدل‌ها، از جمله حملات یا اقدامات غیرمجاز علیه وب‌سایت‌ها و سامانه‌های متعلق به اشخاص ثالث، رو به افزایش است. اوپن‌ای‌آی و شرکت رقیب آن، آنتروپیک، در ماه‌های اخیر از رخدادهایی مرتبط با رفتارهای بالقوه پرخطر مدل‌های هوش مصنوعی خبر داده‌اند.
پژوهشگران و شرکت‌های فناوری به‌طور فزاینده هشدار داده‌اند که هرچه سامانه‌های هوش مصنوعی توانایی بیشتری برای فعالیت مستقل پیدا کنند، نظارت انسانی بر آن‌ها و جلوگیری از سوءاستفاده دشوارتر خواهد شد. از جمله نگرانی‌ها این است که افراد مخرب بتوانند از ابزارهای پیشرفته هوش مصنوعی برای ساخت سلاح‌های زیستی یا انجام حملات سایبری مخرب استفاده کنند.
تصمیم اوپن‌ای‌آی برای محدود کردن دسترسی به اینترنت هنگام آموزش مدل‌های پیشرفته، نشان‌دهنده توجه روزافزون به ایمن‌سازی محیط‌های توسعه هم‌زمان با پیچیده‌تر شدن سامانه‌های هوش مصنوعی است.