گزارش: اوپن‌ای‌آی دیگر مدل‌های هوش مصنوعی خود را با اینترنت آزاد آموزش نخواهد داد
کی‌یف — UNN
اوپن‌ای‌آی قصد دارد دسترسی مدل‌های پیشرفته خود به اینترنت زنده را محدود کند؛ زیرا این دسترسی می‌تواند خطرهای امنیتی به همراه داشته باشد. این شرکت برای آموزش مدل‌های خود، نسخه‌ای ذخیره‌شده از اینترنت تهیه کرده است.
اوپن‌ای‌آی اعلام کرده است که به‌جای استفاده از اینترنت واقعی، مدل‌های هوش مصنوعی خود را با نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده اینترنت آموزش خواهد داد. به گزارش تک‌کرانچ، که خبر آن را خبرگزاری UNN منتشر کرده است، دلیل این تصمیم خطرهای ناشی از رفتارهای پیش‌بینی‌ناپذیر مدل‌هاست.
جزئیات
اوپن‌ای‌آی در مطلبی که ۲۳ اکتبر در وبلاگ خود منتشر کرد، نوشت: «با توجه به وضعیت کنونی پژوهش‌ها در حوزه‌های هم‌راستاسازی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، بر این باوریم که رویکرد مسئولانه آن است که مدل‌های پیشرفته را بدون دسترسی به اینترنت آموزش دهیم.»
به گفته این شرکت، در ۲۰ سپتامبر یکی از مدل‌های پیشرفته آن به‌دلیل پیکربندی نادرست به اینترنت دسترسی پیدا کرد. در پی این اتفاق، اوپن‌ای‌آی روند آموزش را تا پایان ماه متوقف کرد تا تدابیر حفاظتی جدیدی را طراحی و آزمایش کند.
استیون آدلر، پژوهشگر پیشین اوپن‌ای‌آی، در همین ماه به نشریه فورچون گفت که برای جدا کردن مراکز داده هوش مصنوعی از اینترنت، «عملاً لازم است گروه‌های پژوهشی در مراکز داده‌ای در آیووا یا نقاط دیگری از جهان مستقر شوند». او افزود: «این کار هزینه و بار عملیاتی بسیار زیادی دارد و برای من روشن نیست که مزایای امنیتی آن تا چه اندازه است که بتواند چنین هزینه سنگینی را برای شرکت توجیه کند؛ به‌ویژه اگر شرکت بخواهد به‌تنهایی چنین اقدامی انجام دهد.»
یکی از مهندسان امنیت اوپن‌ای‌آی نیز در مطلبی در شبکه اجتماعی ایکس، پیچیدگی این فرایند را توضیح داده است. هویت او در این گزارش فاش نشده است.
«تقریباً هر مطلبی که در ایکس منتشر می‌کنم، ناگزیر با پنج تا ده نظر روبه‌رو می‌شود که می‌گویند نتوانسته‌ام محیط ایزوله را امن کنم یا می‌پرسند چرا به‌سادگی مدل را از اینترنت قطع نمی‌کنیم. این نظرها نشان‌دهنده شکاف فزاینده میان وضعیت فعلی بسیاری از سازمان‌ها و افراد، از یک سو، و چالش‌هایی است که آزمایشگاه‌های پیشرو با آن مواجه‌اند، از سوی دیگر. همچنین، درک عمومی از نحوه آموزش و ارزیابی مدل‌ها در این آزمایشگاه‌ها ناقص است.»
این مهندس که اوپن‌ای‌آی پیش‌تر سمت او را تأیید کرده بود، توضیح داد که فرایندهای آموزش به دسترسی به منابع و ابزارهای گوناگون نیاز دارند و هزاران پژوهشگر نیز به‌طور مداوم محیط‌های کاری را ایجاد می‌کنند، تغییر می‌دهند و مورد آزمایش قرار می‌دهند.
او در پایان گفت: «پس آیا کار به همین سادگی است که مدل را در یک محیط ایزوله قرار دهیم؟ خیر، چنین نیست.»
اوپن‌ای‌آی اکنون مدعی است که «همیشه می‌توانیم از دسترسی غیرمجاز و خودسرانه مدل‌ها به اینترنت واقعی جلوگیری کنیم». این اظهارنظر پس از آن مطرح شد که شرکت در چارچوب آزمایش‌های تیم قرمز، گروه‌هایی از عامل‌های هوش مصنوعی را به کار گرفت تا تلاش کنند از محیط ایزوله خود خارج شوند. به نوشته این نشریه، این آزمایش‌ها چندین آسیب‌پذیری را آشکار کرد و شرکت را به اتخاذ رویکردی تازه متقاعد ساخت.
این شرکت اعلام کرد برای برآورده کردن الزامات امنیتی و در عین حال دستیابی به اهداف آموزشی، «مجموعه گسترده‌ای از محتوای وبِ نمایه‌سازی‌شده و ذخیره‌شده» ایجاد کرده است که مدل‌ها می‌توانند بدون ایجاد خطر برای سامانه‌های خارجی با آن تعامل داشته باشند.
به نوشته این نشریه، هنوز مشخص نیست این راهبرد در مقایسه با روشی که به مدل‌ها اجازه می‌دهد آزادانه در اینترنت فعالیت کنند، تا چه اندازه مؤثر خواهد بود.
یادآوری
مدیران آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های فعال در حوزه هوش مصنوعی درباره اقداماتی که باید در صورت وقوع یک حادثه گسترده مرتبط با هوش مصنوعی و احتمال برانگیخته شدن اعتراض عمومی انجام شود، گفت‌وگو کرده‌اند. دموکرات‌ها در ایالات متحده نیز خواستار مقررات سخت‌گیرانه‌تر هستند.