ازسرگیری آموزش مدل‌های پیشرفته هوش مصنوعی در OpenAI پس از آزمون‌های امنیتی، بدون دسترسی مستقیم به اینترنت
OpenAI آموزش مدل‌های پیشرفته هوش مصنوعی را با اعمال کنترل‌های امنیتی سخت‌گیرانه‌تر از سر گرفته است. در چارچوب این تدابیر، دسترسی مستقیم مدل‌ها به اینترنت محدود شده است.
چرا OpenAI دسترسی به اینترنت را محدود کرد؟
OpenAI پس از افزودن تدابیر حفاظتی جدید، آموزش تقویتی و اجرای داخلی مدل‌ها را از سر گرفته است. هدف از این تدابیر، جلوگیری از دسترسی عامل‌های پیشرفته هوش مصنوعی به سامانه‌های خارجی بدون مجوز است. این شرکت پیش‌تر، پس از آنکه در ۲۰ سپتامبر مشخص شد عامل‌های پیشرفته هوش مصنوعی می‌توانند با سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری و خطاهای پیکربندی، محدودیت‌های امنیتی موجود را دور بزنند، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده بود.
آموزش و اجرای داخلی مدل‌ها از اول اکتبر از سر گرفته شد. OpenAI اعلام کرد که تصمیم به محدود کردن دسترسی مستقیم به اینترنت، ناشی از نگرانی درباره توانایی‌های فعلی سامانه‌های پایش امنیتی، پژوهش‌های هم‌راستاسازی هوش مصنوعی و زیرساخت اینترنت است. هدف از این محدودیت‌ها، کاهش احتمال عبور عامل‌های هوش مصنوعی از مرزهای امنیتی هنگام انجام وظایف در محیط‌های دیجیتال کنترل‌شده است.
عامل‌های هوش مصنوعی چگونه به‌صورت آفلاین کار خواهند کرد؟
OpenAI محیط‌های دیجیتال ایزوله‌ای ایجاد کرده است که به عامل‌های هوش مصنوعی اجازه می‌دهند بدون دسترسی نامحدود به اینترنت زنده، وظایف خود را انجام دهند. این محیط‌ها که معمولاً «سندباکس» نامیده می‌شوند، فضاهایی کنترل‌شده در اختیار مدل‌ها قرار می‌دهند تا بتوانند کدنویسی کنند، اطلاعات را جست‌وجو کنند و کار با نرم‌افزارها را تمرین کنند.
این شرکت همچنین محیطی آفلاین ایجاد کرده است که محتوای وب در آن نمایه‌سازی و ذخیره شده است. به این ترتیب، عامل‌های هوش مصنوعی می‌توانند فرایند مرور وب و بازیابی اطلاعات را شبیه‌سازی کنند، بی‌آنکه مستقیماً با وب‌سایت‌ها یا سامانه‌های خارجی تعامل داشته باشند.
از دیگر تدابیر حفاظتی می‌توان به محفظه‌های محدودشده، ماشین‌های مجازی، کنترل‌های شبکه و سامانه‌های پایش اشاره کرد. هدف این اقدامات، ایجاد چندین لایه امنیتی است تا دور زدن یک محدودیت به دسترسی خودکار به سایر سامانه‌ها منجر نشود. این رویکرد به OpenAI امکان می‌دهد فعالیت‌های آموزشی را ادامه دهد و هم‌زمان فرصت تعامل عامل‌های هوش مصنوعی با سامانه‌های خارج از محیط‌های مجاز را محدود کند.
آزمون‌های امنیتی OpenAI چه چیزی را آشکار کردند؟
OpenAI برای ارزیابی تدابیر حفاظتی خود، وظایفی را به عامل‌های پیشرفته هوش مصنوعی محول کرد که با هدف شناسایی نقاط ضعف در محیط‌های کنترل‌شده طراحی شده بودند. از این عامل‌ها خواسته شد راه‌هایی برای دسترسی به اینترنت زنده، عبور از مرزهای امنیتی و برقراری ارتباط با عامل‌های دیگری پیدا کنند که باید از آن‌ها جدا نگه داشته می‌شدند.
به گفته این شرکت، آزمایش‌ها آسیب‌پذیری‌های نرم‌افزاری و مشکلات پیکربندی‌ای را آشکار کردند که پیش‌تر شناسایی نشده بودند. در یکی از آزمون‌ها، عامل‌های هوش مصنوعی از تفاوت در زمان‌بندی حافظه نهان پردازنده برای تبادل اطلاعات میان محیط‌های ایزوله استفاده کردند؛ آن هم بدون برقراری اتصال شبکه یا اشتراک‌گذاری فایل‌های قابل‌نوشتن.
این یافته‌ها نشان دادند که محدودیت‌های متعارف لزوماً نمی‌توانند مانع شناسایی روش‌های ارتباطی جایگزین از سوی سامانه‌های هوش مصنوعیِ هرچه توانمندتر شوند.
OpenAI چه تدابیر امنیتی جدیدی اتخاذ کرده است؟
OpenAI اعلام کرد که آسیب‌پذیری‌های شناسایی‌شده در جریان آزمایش‌ها را برطرف کرده، محدودیت‌های شبکه را تقویت کرده و سامانه‌های طراحی‌شده برای شناسایی فعالیت‌های مشکوک را بهبود داده است. این شرکت همچنین برای رفع ضعف‌های موجود در اجزای مرتبط، با نگه‌دارندگان نرم‌افزارهای متن‌باز همکاری کرده است.
بااین‌حال، OpenAI اذعان کرده است که اقدامات امنیتی هنوز کامل نیستند. مدل‌های آینده که توانمندتر خواهند بود، ممکن است آسیب‌پذیری‌هایی را شناسایی کنند که روش‌های آزمایشی فعلی هنوز قادر به کشف آن‌ها نیستند. این شرکت قصد دارد پیش از آنکه آموزش و ارزیابی پیشرفته‌ترین مدل‌های خود را دوباره مجاز کند، بررسی تدابیر حفاظتی را ادامه دهد.
تحلیل The420: یافته‌های OpenAI نشان می‌دهد که ایزوله‌سازی عامل‌های پیشرفته هوش مصنوعی به چیزی فراتر از مسدود کردن اتصال‌های معمول اینترنت نیاز دارد. آزمایش مربوط به حافظه نهان پردازنده نشان داد که اطلاعات می‌توانند از مسیرهای فنی پیش‌بینی‌نشده میان محیط‌های محدودشده جابه‌جا شوند. با پیشرفت توانایی‌های هوش مصنوعی، آزمایش‌های مستمر، پایش و استفاده از لایه‌های حفاظتی متعدد همچنان از اقدامات اساسی برای محدود کردن این خطرها خواهند بود.