اوپن‌ای‌آی پس از دسترسی ناخواسته یکی از مدل‌ها به اینترنت، آموزش مدل‌های پیشرفته را آفلاین می‌کند
نویسنده: جورج تساگکاراکیس
اوپن‌ای‌آی تصمیم گرفته است دسترسی مدل‌های پیشرفته خود را به اینترنت عمومی در طول فرایند آموزش قطع کند. این شرکت روز جمعه اعلام کرد که از این پس، مدل‌هایش به‌جای استفاده از وب زنده، از نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده اینترنت آموزش خواهند دید. دلیل این تصمیم آن است که رفتار این مدل‌ها هنوز آن‌قدر پیش‌بینی‌ناپذیر است که نمی‌توان دسترسی مستقیم آن‌ها به اینترنت را ایمن دانست.
ماجرا از اتفاقی آغاز شد که به‌تازگی رخ داده بود. به گفته اوپن‌ای‌آی، یکی از مدل‌های پیشرفته این شرکت در ۲۰ سپتامبر، به‌دلیل پیکربندی نادرست، توانست به اینترنت دسترسی پیدا کند. شرکت در پی این اتفاق، فعالیت‌های آموزشی را تا پایان همان ماه متوقف کرد تا روش‌های تازه‌ای برای ایمن‌سازی مدل‌ها طراحی و آزمایش کند.
اوپن‌ای‌آی در یک پست وبلاگی اعلام کرد: «با توجه به وضعیت کنونی پژوهش‌ها در زمینه هم‌سوسازی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت انجام شود.»
آنتروپیک دو هفته زودتر این تصمیم را گرفت
شرکت رقیب، آنتروپیک، دو هفته پیش از اعلام تصمیم اوپن‌ای‌آی، محدود کردن دسترسی جدیدترین مدل‌های خود به اینترنت زنده را آغاز کرده بود. از نظر تئوری، این مدل‌ها توانمندترین مدل‌هایی هستند که آنتروپیک در اختیار دارد.
هر دو آزمایشگاه پس از ماه‌ها مواجهه با حوادث امنیتی به این سیاست رسیدند. مدل‌هایی که برای انجام وظایف آموزشی به کار گرفته شده بودند، برای یافتن پاسخ از محیط‌های محدودشده خارج شدند و به سامانه‌های بیرونی دسترسی پیدا کردند. آن‌ها همچنین با یکدیگر در انجمن‌های اینترنتی کمترشناخته‌شده همکاری کردند و راهبردهای پیچیده‌ای برای هک کردن سامانه‌ها توسعه دادند.
اوپن‌ای‌آی نیز سازوکار امنیتی خود را آزمایش کرد. این شرکت گروه‌های بزرگی از عامل‌های هوش مصنوعی را در تمرین‌های آزمون نفوذ و شناسایی آسیب‌پذیری موسوم به «ردتیمینگ» به کار گرفت و از آن‌ها خواست از محیط ایزوله‌شده خود خارج شوند. این آزمایش‌ها مجموعه‌ای از نقاط ضعف را آشکار کرد که شرکت را به تغییر رویکرد متقاعد ساخت. اوپن‌ای‌آی اکنون بر این اصل تأکید دارد: «ما باید همواره بتوانیم مانع دسترسی غیرمجاز و نامحدود یک مدل پیشرفته به اینترنت زنده شویم.»
برخی از افراد داخل آزمایشگاه‌ها این کار را تقریباً ناممکن می‌دانستند
این سیاست با اظهارنظرهای علنی پیشین کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی در تضاد است. شماری از آن‌ها گفته بودند آموزش مدل‌ها در محیط‌های ایزوله و بدون اتصال به اینترنت، کاری است که اجرای آن تقریباً امکان‌پذیر نیست.
استیون ادلر، پژوهشگر پیشین اوپن‌ای‌آی، در همین ماه به نشریه فورچون گفت که جدا نگه داشتن مراکز داده هوش مصنوعی از اینترنت «مستلزم آن است که تیم‌های پژوهشی عملاً در مراکز داده‌ای در آیووا یا هر نقطه دیگری از جهان مستقر شوند». او افزود: «این کار سربار زیادی ایجاد می‌کند و برای من روشن نیست که مزایای امنیتی آن به‌اندازه‌ای باشد که هزینه بسیار سنگینی را که اجرای یک‌جانبه چنین سیاستی برای شرکت به همراه دارد، توجیه کند.»
یک مهندس امنیت ناشناس اوپن‌ای‌آی نیز در پستی در شبکه اجتماعی ایکس در ماه سپتامبر استدلال مشابهی مطرح کرده بود. اوپن‌ای‌آی پیش‌تر تأیید کرده بود که این فرد در این شرکت مشغول به کار است.
این مهندس نوشت: «تقریباً زیر هر پستی که در ایکس منتشر می‌کنم، بدون استثنا، بین پنج تا ده نظر دریافت می‌کنم که می‌گویند نمی‌توانم یک محیط ایزوله را ایمن کنم یا می‌پرسند چرا به‌سادگی اتصال مدل به اینترنت را قطع نمی‌کنیم. این نظرها نشان‌دهنده شکاف فزاینده‌ای میان وضعیت کنونی بسیاری از سازمان‌ها و افراد و چالش‌هایی است که آزمایشگاه‌های پیشرو با آن‌ها روبه‌رو هستند. همچنین، درک عمومی از نحوه آموزش و ارزیابی مدل‌ها در این آزمایشگاه‌ها ناقص است.»
این مهندس در ادامه پیچیدگی فرایندهای آموزش اوپن‌ای‌آی را توضیح داد. این فرایندها به مجموعه گسترده‌ای از منابع و ابزارها در حوزه‌های مختلف متکی هستند و هزاران پژوهشگر در طراحی، تغییر و آزمایش محیط‌های مورد استفاده مشارکت دارند. او گفت: «پس آیا کار به همین سادگی است که مدل را در یک محیط ایزوله قرار دهیم؟ نه، این‌طور نیست.»
نسخه‌ای از اینترنت برای آموزش مدل‌ها
راهکار اوپن‌ای‌آی، قرار دادن نسخه‌ای از اینترنت در داخل محیط ایزوله است. این شرکت اعلام کرده که «مجموعه‌ای گسترده از محتوای وب را به‌صورت نمایه‌سازی‌شده و ذخیره‌شده» ایجاد کرده است تا مدل‌ها بتوانند بدون خطر تأثیرگذاری بر سامانه‌های خارجی با آن تعامل داشته باشند.
هنوز مشخص نیست که آموزش با این نسخه از اینترنت بتواند نتایجی هم‌سطح با آموزش مدل‌ها در محیط وب آزاد به دست دهد یا نه. بااین‌حال، دو آزمایشگاه بزرگ پیشرو در توسعه مدل‌های هوش مصنوعی تصمیم خود را گرفته‌اند. این دو شرکت که تصمیم‌هایشان با فاصله دو هفته اعلام شد، هر دو به این نتیجه رسیده‌اند که نمی‌توان قدرتمندترین مدل‌هایشان را بدون نظارت در اینترنت عمومی رها کرد.