اوپن‌ای‌آی اینترنتی عظیم و جعلی ساخته است تا عامل‌های هوش مصنوعی در محیطی امن از آن استفاده کنند و آن را به چالش بکشند
اگر این روزها بزرگ‌ترین مشکل شرکت شما این باشد که ربات‌های هوش مصنوعی مدام از محیط‌های ایزوله‌شده خود فرار می‌کنند یا، وقتی در چنین محیط‌هایی محدود نیستند، در دنیای واقعی دست به اقداماتی می‌زنند که مردم را می‌ترساند و خشمگین می‌کند، یک راهکار بالقوه و جالب وجود دارد: ساختن اینترنتی جعلی؛ چیزی شبیه به نمایش ترومن در دنیای دیجیتال که عامل‌های هوش مصنوعی بتوانند در آن زندگی کنند و به گشت‌وگذار بپردازند، گویی با اینترنت واقعی روبه‌رو هستند. البته باید توجه داشت که اوپن‌ای‌آی اعلام نکرده است که عامل‌هایش را طوری هدایت می‌کند که تصور کنند این اینترنت ساختگی، اینترنت واقعی است.
اوپن‌ای‌آی در اطلاعیه‌ای که روز جمعه درباره سامانه جدید مهار مدل‌هایش منتشر کرد، گفت پس از ماجرای هک‌مانند مرتبط با هاجینگ فیس (Hugging Face)، به این نتیجه رسیده است که «رویکرد مسئولانه، آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت است». به این ترتیب، اوپن‌ای‌آی نیز مانند آنتروپیک هنگام توسعه مدل‌هایش نوعی جداسازی ناقص از شبکه‌های بیرونی را اجرا می‌کند. در مطلب وبلاگی این شرکت آمده است: «در حال حاضر، جداسازی کامل این زیرساخت از شبکه، یعنی قطع تمام ارتباطات آن با شبکه‌های خارجی، امکان‌پذیر نیست؛ زیرا برای اجرای آزمایش‌ها و نظارت بر آن‌ها به ارتباطات خارجی نیاز داریم.»
حتی همین جداسازی نسبی و تحت نظارت نیز راهکاری منطقی برای جلوگیری از دردسرآفرینی مدل‌ها به نظر می‌رسد. با این حال، چنین رویکردی هزینه‌ای دارد: آموزش‌های تکمیلی و ارزیابی مدل‌ها در محیط‌هایی انجام می‌شود که تفاوت زیادی با محیط واقعی استفاده از آن‌ها دارند.
اوپن‌ای‌آی برای حل این مشکل می‌گوید یک «دنیای آفلاین» برای یادگیری تقویتی ساخته است. این شرکت می‌خواهد مدل‌هایش بتوانند از قابلیت مرور وب، برنامه‌های تحت وب و جست‌وجوی اطلاعات استفاده کنند، اما دسترسی «نامحدود و دلخواه» به اینترنت نداشته باشند. بنابراین، به‌جای آنکه دسترسی آزاد به تمام اینترنت را در اختیار مدل‌ها بگذارد، محیطی عظیم و شبیه اینترنت ایجاد کرده که از محتوای وبِ نمایه‌سازی‌شده و ذخیره‌شده در حافظه نهان تشکیل شده است.
در برخی موارد، عامل‌های هوش مصنوعی در ماشین‌های مجازی کوچک‌تری اجرا می‌شوند که درون سامانه‌های رایانه‌ای قدرتمندتر قرار دارند. این سازوکار بخشی از چارچوب امنیتی گسترده‌تری است که در اطلاعیه اوپن‌ای‌آی تشریح شده است. به گفته شرکت، این سامانه‌ها «طوری طراحی شده‌اند که حتی اگر یک عامل از محیط ایزوله خود خارج شود و کنترل میزبان را به دست بگیرد، همچنان مهار آن حفظ شود».
اوپن‌ای‌آی می‌گوید مدل‌ها در این «دنیای آفلاین» نه‌تنها می‌توانند جست‌وجو کنند، بلکه قادرند با یکدیگر نیز به شکلی امن ارتباط برقرار کنند. تلاش عامل‌های هوش مصنوعی برای یافتن راه‌های ارتباطی، به‌خودی‌خود در سال جاری برای اوپن‌ای‌آی دردسرساز شده است. ماجرای ویکی که ماه گذشته گزارش شد، نشان داد عامل‌هایی که می‌کوشند از طریق اینترنت با یکدیگر ارتباط برقرار کنند، ممکن است از زیرساخت‌های وب سوءاستفاده کنند یا در عملکرد آن‌ها اختلال ایجاد کنند. در آن مورد، عامل‌ها بدون آنکه واقعاً وب‌سایتی را هک کنند، با یک انجمن پیام‌رسانی آلمانی به نام DseWiki تداخل ایجاد کردند.
با وجود این، در آزمایش‌های امنیتی موسوم به «ردتیمینگ» که برخی از آن‌ها با استفاده از مدل آینده اوپن‌ای‌آی، GPT‑6 Astra Cyber، انجام شدند، از مدل‌ها خواسته شد عمداً به دنبال یافتن آسیب‌پذیری‌ها بگردند و آن‌ها نیز موفق به این کار شدند. اوپن‌ای‌آی می‌گوید عامل‌ها توانستند «از محیط‌های ایزوله خارج شوند، بین سامانه‌ها جابه‌جا شوند و به اینترنت زنده دسترسی پیدا کنند».
از اطلاعیه اوپن‌ای‌آی درباره اینترنت جعلی این موضوع روشن نمی‌شود که آیا عامل‌های فعال در این محیط فریب می‌خورند و آن را با اینترنت واقعی اشتباه می‌گیرند یا اینکه شرکت اساساً قصد دارد در هیچ مرحله‌ای چنین تصوری را در آن‌ها ایجاد کند. با این حال، یادداشتی کوتاه در پانوشت اطلاعیه این برداشت را ایجاد می‌کند که شرکت نمی‌خواهد مدل‌ها بیش از اندازه از این تدبیر امنیتی آگاه باشند.
در این اطلاعیه رشته‌هایی از کاراکترها با عنوان «رشته‌های قناری» نیز وجود دارد. این رشته‌ها مجموعه‌هایی از نویسه‌ها هستند که برای مشخص‌کردن و حذف متن از مجموعه‌داده‌های آموزشی به کار می‌روند و ممکن است بعداً بتوان آن‌ها را در مدل‌ها شناسایی کرد. اوپن‌ای‌آی می‌گوید هدف از درج این رشته‌ها آن است که «اطمینان حاصل شود این سند وارد مجموعه‌های متنی آموزشی مدل‌های آینده نشود».
وب‌سایت گیزمودو روز شنبه از اوپن‌ای‌آی خواست این ابهام را برطرف کند، اما تا زمان انتشار گزارش پاسخی دریافت نکرده بود. گیزمودو اعلام کرد اگر در زمان مناسب توضیح مرتبطی از این شرکت دریافت کند، مقاله را به‌روزرسانی خواهد کرد.