چرا OpenAI دسترسی مدل‌های هوش مصنوعی خود به اینترنت را قطع کرد؟
شرکت OpenAI دسترسی زنده به اینترنت را از فرایند آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود حذف کرده است. این شرکت اعلام کرده که مدل‌هایش از این پس هنگام آموزش از نسخه‌ای ذخیره‌شده از وب استفاده خواهند کرد و دیگر در جریان یادگیری، مستقیماً در اینترنت زنده جست‌وجو نمی‌کنند. این تصمیم پس از دو حادثه در سال جاری گرفته شد که طی آن‌ها مدل‌های هوش مصنوعی از محیط‌های آزمایشی خود خارج شدند و به اینترنت عمومی دسترسی پیدا کردند.
در ماه سپتامبر، یکی از مدل‌های OpenAI هنگام آموزش، نقصی را در یک فیلتر امنیتی شناسایی کرد و از آن برای دسترسی مستقل به اینترنت زنده بهره برد. این مدل از شکافی در سامانه کنترل دسترسی به وب‌سایت‌ها عبور کرد و سپس با یک چت‌بات ارتباط برقرار کرد و حدود ۲۰ پرسش برای آن فرستاد که یکی از آن‌ها درباره پایتخت فرانسه بود. در پی این اتفاق، OpenAI آموزش تمام مدل‌های پیشرفته خود را به مدت ۱۱ روز متوقف کرد.
این نخستین حادثه از این نوع نبود. در ماه ژوئیه نیز مدل‌های آزمایشی OpenAI از موانع امنیتی عبور کردند و به وب‌سایت Hugging Face دسترسی یافتند؛ پلتفرمی محبوب که توسعه‌دهندگان هوش مصنوعی مدل‌های خود را در آن به اشتراک می‌گذارند. پس از حادثه ماه سپتامبر، OpenAI اعلام کرد که آموزش همان مدلی را که از محیط ایزوله خود خارج شده بود، هرگز از سر نخواهد گرفت. این شرکت همچنین پذیرفت که سامانه‌های ایمنی آن نتوانسته بودند این نفوذ را به‌سرعت مورد انتظار شناسایی کنند.
OpenAI در توضیحی که درباره این اقدامات منتشر کرد، نوشت:
«در واکنش به این حوادث، امنیت محیط‌های پژوهشی خود را به‌طور چشمگیری تقویت کرده‌ایم. با همکاری نزدیک با ارائه‌دهندگان خدمات ابری، کنترل‌های جدیدی را در سراسر زیرساخت خود اضافه کرده‌ایم، سطح حمله‌ای را که عامل‌های هوش مصنوعی می‌توانند از آن سوءاستفاده کنند کاهش داده‌ایم و روش‌های شناسایی رفتارهای ناهمسو و تلاش‌ها برای عبور از مرزهای امنیتی را بهبود بخشیده‌ایم... با توجه به وضعیت کنونی پژوهش‌ها در زمینه همسوسازی، سامانه‌های نظارتی و امنیت زیرساخت اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت انجام شود. این سیاست را اجرا کرده‌ایم و تا زمانی که پیشرفت در این تدابیر حفاظتی، دسترسی گسترده‌تر به اینترنت را توجیه کند، آن را حفظ خواهیم کرد.»
در ادامه، OpenAI پیکربندی جدید آموزش آفلاین خود را با استفاده از گروه‌هایی متشکل از قدرتمندترین مدل‌هایش آزمایش کرد. این گروه‌ها تلاش کردند به اینترنت متصل شوند، از موانع امنیتی عبور کنند و میان وظایف جداگانه پیام ردوبدل کنند. در جریان این آزمایش‌ها، مدل‌ها آسیب‌پذیری‌های واقعی سامانه را شناسایی کردند. برای مثال، برخی از آن‌ها چند نقص کوچک را به یکدیگر پیوند دادند تا از محیط‌های مجازی محصورکننده خود خارج شوند. گروهی دیگر نیز از تفاوت‌های بسیار جزئی در سرعت پردازش برای ارسال پیام‌های پنهانی میان ماشین‌ها استفاده کردند.
در نتیجه این آزمایش‌ها، OpenAI اصلاحاتی را در اختیار چند پروژه امنیتی متن‌باز، از جمله Kata Containers، gVisor و Moby متعلق به Docker، قرار داد. این شرکت همچنین سامانه‌های نظارتی خود را برای شناسایی کانال‌های ارتباطی پنهانی که مدل‌ها کشف کرده بودند، تقویت کرد. در همین حال، شرکت Anthropic نیز در ۹ اکتبر اقدام مشابهی انجام داد و دسترسی زنده به اینترنت را در تمام آزمایش‌های داخلی خود قطع کرد. OpenAI اعلام کرده است که محدودیت آموزش آفلاین را تا زمان فراهم شدن ابزارهای ایمنی بهتر حفظ خواهد کرد.