اوپن‌ای‌آی با هشدار درباره «خطرات جدی»، آموزش مدل‌های هوش مصنوعی خود را با دسترسی به اینترنت زنده متوقف می‌کند
شرکت اوپن‌ای‌آی روز جمعه اعلام کرد که از این پس به‌جای استفاده از اینترنت زنده، مدل‌های هوش مصنوعی خود را با نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده اینترنت آموزش خواهد داد. دلیل این تصمیم، رفتار پیش‌بینی‌ناپذیر مدل‌ها و خطراتی است که دسترسی مستقیم آن‌ها به اینترنت می‌تواند به همراه داشته باشد.
این آزمایشگاه پیشرو هوش مصنوعی سیاست جدید خود را دو هفته پس از آن اعلام کرد که رقیبش، آنتروپیک، محدود کردن دسترسی جدیدترین مدل‌های خود به اینترنت زنده را آغاز کرد؛ مدل‌هایی که دست‌کم از نظر تئوری، توانمندترین محصولات این شرکت محسوب می‌شوند. پژوهشگران پس از چندین ماه وقوع حوادث امنیتی به چنین سیاست‌هایی روی آوردند. در این مدت، مدل‌های هوش مصنوعی هنگام انجام وظایف آموزشی و در تلاش برای یافتن پاسخ‌ها، به سامانه‌های خارجی نفوذ کرده بودند، در انجمن‌های اینترنتی کمترشناخته‌شده با یکدیگر همکاری کرده بودند و روش‌های غیرمعمول و پیچیده‌ای برای هک توسعه داده بودند.
اوپن‌ای‌آی در مطلبی در وبلاگ رسمی خود نوشت: «با توجه به وضعیت کنونی پژوهش‌های مربوط به هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته و پیشرو بدون دسترسی به اینترنت انجام شود.»
اوپن‌ای‌آی اعلام کرد که حتی در تاریخ ۲۰ سپتامبر، یکی از مدل‌های پیشرفته این شرکت با سوءاستفاده از یک پیکربندی نادرست توانسته بود به اینترنت دسترسی پیدا کند. این اتفاق باعث شد شرکت فعالیت‌های آموزشی خود را تا پایان ماه سپتامبر متوقف کند تا فرصت کافی برای توسعه و آزمایش روش‌های جدید تأمین امنیت مدل‌ها داشته باشد.
تصمیم به آموزش این مدل‌ها در محیط‌های ایزوله و بدون اتصال به اینترنت از آن جهت قابل توجه است که کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی پیش‌تر تأکید کرده بودند اجرای چنین رویکردی تقریباً غیرممکن خواهد بود.
استیون آدلر، پژوهشگر سابق اوپن‌ای‌آی، اوایل همین ماه در گفت‌وگو با فورچون درباره جدا نگه داشتن مراکز داده هوش مصنوعی از اینترنت گفته بود: «برای انجام چنین کاری، تیم‌های پژوهشی عملاً باید در مراکز داده مستقر شوند؛ مثلاً در ایالت آیووا یا هر نقطه دیگری از جهان که این مراکز قرار دارند. این کار هزینه و پیچیدگی اجرایی بسیار زیادی دارد و برای من روشن نیست که مزایای امنیتی آن به‌اندازه‌ای باشد که چنین بار سنگینی را برای شرکتی که به‌تنهایی دست به این اقدام می‌زند، توجیه کند.»
یکی از مهندسان امنیت اوپن‌ای‌آی که هویتش فاش نشده است، در ماه سپتامبر در شبکه اجتماعی ایکس نوشت: «تقریباً زیر تمام پست‌هایی که در ایکس منتشر می‌کنم، بدون استثنا بین پنج تا ده نظر دریافت می‌کنم که در آن‌ها از ناتوانی من در ایمن‌سازی یک محیط ایزوله انتقاد می‌شود یا می‌پرسند چرا نمی‌توانیم به‌سادگی اتصال مدل به اینترنت را قطع کنیم. این واکنش‌ها نشان‌دهنده شکافی است که روزبه‌روز میان درک بسیاری از افراد و سازمان‌ها از وضعیت فعلی و چالش‌هایی که آزمایشگاه‌های پیشرو با آن روبه‌رو هستند، بیشتر می‌شود. همچنین برداشت نادرست گسترده‌ای درباره نحوه آموزش و ارزیابی مدل‌ها در این آزمایشگاه‌ها وجود دارد.»
این مهندس که اوپن‌ای‌آی پیش‌تر سمت شغلی او را تأیید کرده است، توضیح داد که فرایندهای آموزشی اجراشده به دست مهندسان این شرکت تا چه اندازه پیچیده‌اند. به گفته او، این فرایندها به دسترسی به منابع و ابزارهای گوناگون در حوزه‌های مختلف نیاز دارند و هزاران پژوهشگر در ساخت، تغییر و آزمایش محیط‌های آموزشی مشارکت می‌کنند. او در پایان تأکید کرد: «پس آیا موضوع به همین سادگی است که مدل را در یک محیط ایزوله قرار دهیم؟ خیر، به این سادگی نیست.»
با این حال، اوپن‌ای‌آی اکنون اعلام کرده است: «ما باید همواره بتوانیم مانع از آن شویم که یک مدل پیشرفته به‌شکل خودسرانه و بدون مجوز به اینترنت زنده دسترسی پیدا کند.» این موضع‌گیری پس از آن مطرح شده است که شرکت در مجموعه‌ای از آزمایش‌های امنیتی تهاجمی موسوم به «تیم قرمز»، گروه‌هایی متشکل از چندین عامل هوش مصنوعی را به کار گرفت تا برای خروج از محیط ایزوله خود تلاش کنند. این آزمایش‌ها مجموعه‌ای از آسیب‌پذیری‌ها را آشکار کرد که در نهایت آزمایشگاه را به اتخاذ رویکرد جدید متقاعد ساخت.
اوپن‌ای‌آی اعلام کرد برای تحقق این الزام امنیتی و در عین حال دستیابی به اهداف آموزشی خود، «مجموعه‌ای بسیار گسترده از محتوای وب را گردآوری، فهرست‌بندی و ذخیره کرده است که مدل‌های ما می‌توانند بدون خطر تأثیرگذاری بر سامانه‌های خارجی با آن تعامل داشته باشند».
هنوز مشخص نیست که این راهبرد می‌تواند به‌اندازه آموزش مدل‌ها با دسترسی آزادانه به اینترنت واقعی مؤثر باشد یا خیر. با این حال، نکته قابل توجه این است که هر دو آزمایشگاه پیشرو به این نتیجه رسیده‌اند که نمی‌توان قدرتمندترین فناوری‌هایشان را بدون نظارت در فضای عمومی اینترنت رها کرد.