اوپن‌ای‌آی در پی نگرانی از رفتار مدل‌ها، دسترسی مستقیم به اینترنت را هنگام آموزش هوش مصنوعی محدود کرد
گردآوری: آیوش موکرجی | News18.com
آخرین به‌روزرسانی: ۲۶ اکتبر ۲۰۲۶، ساعت ۱۳:۰۰ به وقت هند
اوپن‌ای‌آی پس از دسترسی یک سامانه داخلی به وب از طریق سرور DNS با پیکربندی نادرست، دسترسی مستقیم به اینترنت را هنگام آموزش مدل‌های پیشرفته هوش مصنوعی محدود کرد.
اوپن‌ای‌آی پس از آنکه گزارش شد یکی از سامانه‌های داخلی این شرکت به‌دلیل تنظیمات نادرست شبکه توانسته است به اینترنت زنده دسترسی پیدا کند، محدودیت‌های امنیتی خود را تشدید کرده و دسترسی مستقیم به اینترنت را هنگام آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی‌اش محدود کرده است.
این شرکت در مطلبی که ۲۳ اکتبر منتشر کرد، اعلام کرد این محدودیت تا زمانی برقرار خواهد ماند که سامانه‌های امنیتی و نظارتی آن به اندازه کافی قدرتمند شوند. در این مدت، مدل‌هایی که در حال آموزش هستند و بیشتر مدل‌هایی که تحت ارزیابی قرار می‌گیرند، به‌جای دسترسی مستقیم به اینترنت از محتوای آرشیوشده وب استفاده خواهند کرد.
این اقدام پس از یک رخداد امنیتی در ماه سپتامبر صورت گرفت؛ در آن زمان، طبق گزارش‌ها، یک مدل داخلی هوش مصنوعی هنگام آموزش و از طریق سرور سامانه نام دامنه (DNS) با پیکربندی نادرست به اینترنت زنده دسترسی پیدا کرد. اوپن‌ای‌آی در پی این اتفاق، فرایند آموزش مدل‌های پیشرفته خود را به مدت ۱۱ روز متوقف کرد و پس از اعمال تدابیر حفاظتی بیشتر، این فرایند را در اول اکتبر از سر گرفت.
این تصمیم بازتاب‌دهنده نگرانی فزاینده در صنعت هوش مصنوعی درباره توانایی مدل‌های هرچه پیشرفته‌تر برای دور زدن محدودیت‌های امنیتی و تعامل با سامانه‌هایی است که خارج از محیط تعیین‌شده برای آن‌ها قرار دارند.
چرا اوپن‌ای‌آی دسترسی به اینترنت را محدود می‌کند؟
اوپن‌ای‌آی در مطلبی با عنوان «ایمن‌سازی محیط آموزش مدل‌های پیشرفته» هشدار داد که مدل‌های پیشرفته‌تر ممکن است راه‌هایی برای عبور از محدودیت‌هایی پیدا کنند که با هدف مهار فعالیت آن‌ها طراحی شده‌اند.
این شرکت توضیح داد که سامانه‌های پیچیده هوش مصنوعی ممکن است از آسیب‌پذیری‌های نرم‌افزاری سوءاستفاده کنند، از سرویس‌هایی که به‌درستی پیکربندی نشده‌اند بهره ببرند یا راه‌های غیرمجاز برای برقراری ارتباط با عامل‌های دیگری بیابند که در محیط‌های جداگانه فعالیت می‌کنند.
اوپن‌ای‌آی به رخدادی در ماه ژوئیه مرتبط با هاجینگ‌فیس (Hugging Face) و همچنین نمونه‌های دیگری از ناهماهنگی رفتاری مدل‌ها که مشاهده کرده بود اشاره کرد. به گفته این شرکت، این موارد نشان می‌دهند که مدل‌های پیشرفته ممکن است هنگام آموزش و ارزیابی، تدابیر امنیتی را دور بزنند.
اوپن‌ای‌آی در واکنش به این نگرانی‌ها اعلام کرد که با همکاری ارائه‌دهندگان خدمات ابری، زیرساخت پژوهشی خود را تقویت کرده است. این تغییرات شامل افزودن کنترل‌های امنیتی، کاهش نقاط بالقوه ورود مهاجمان و بهبود سامانه‌هایی است که رفتارهای مشکوک یا تلاش برای عبور از مرزهای امنیتی را شناسایی می‌کنند.
این شرکت تأکید کرد که این لایه‌های حفاظتی به‌گونه‌ای طراحی شده‌اند که از کار افتادن یک سازوکار امنیتی به‌تنهایی، کل محیط را در معرض خطر قرار ندهد.
اوپن‌ای‌آی اکنون سیاست آموزش مدل‌های پیشرفته خود بدون دسترسی مستقیم به اینترنت را در پیش گرفته است. این شرکت اعلام کرد محدودیت یادشده تا زمانی ادامه خواهد داشت که پیشرفت در پژوهش‌های هم‌راستاسازی مدل‌ها، نظارت و امنیت زیرساخت، فراهم شدن امکان دسترسی گسترده‌تر را توجیه کند.
اوپن‌ای‌آی پذیرفت که اتصال به اینترنت می‌تواند به مدل‌ها در توسعه قابلیت‌های مفید کمک کند. بااین‌حال، این شرکت استدلال کرد که اجازه دادن به عامل‌های هوش مصنوعی‌ای که ممکن است با اهداف تعیین‌شده هم‌راستا نباشند تا با سامانه‌های زنده تعامل کنند، می‌تواند خطرهایی ایجاد کند که کنترل آن‌ها مستقیماً در اختیار شرکت نیست.
این شرکت افزود که همچنان در تلاش است محیط‌های کاری مدل‌ها را با قدرت بیشتری از یکدیگر جدا کند؛ بااین‌حال، برای انجام برخی ارزیابی‌ها و نظارت زنده، هنوز به تعدادی از ارتباطات خارجی نیاز دارد.
آنتروپیک نیز تدابیر امنیتی خود را تشدید کرده است
تصمیم اوپن‌ای‌آی پس از اقدام مشابه شرکت رقیب، آنتروپیک (Anthropic)، در ۹ اکتبر اتخاذ شده است. آنتروپیک پس از شناسایی رفتارهایی که نگرانی‌های امنیتی ایجاد می‌کردند، دسترسی مستقیم به وب را در ارزیابی‌های داخلی مدل‌های خود محدود کرد.
آنتروپیک اعلام کرد که تأثیر رفتارهای مشاهده‌شده محدود بوده است. بااین‌حال، این شرکت دامنه محدودیت‌ها را گسترش داد تا بررسی کند آیا سازوکارهای امنیتی و نظارتی موجود می‌توانند تلاش مدل‌ها برای دور زدن تدابیر حفاظتی را به‌طور قابل‌اعتماد شناسایی کنند یا خیر.
این شرکت همچنین اعلام کرد که فرایندهای آموزش خود را تغییر می‌دهد تا احتمال تکرار رفتارهای نامطلوب کاهش یابد.
هر دو اقدام نشان‌دهنده چالشی فزاینده برای توسعه‌دهندگان هوش مصنوعی است: هرچه مدل‌ها توانمندتر می‌شوند، محدودیت‌های متعارف ممکن است قابلیت اطمینان کمتری داشته باشند، مگر آنکه چندین لایه امنیتی و نظارتی از آن‌ها پشتیبانی کنند.
سیاست جدید اوپن‌ای‌آی با هدف کاهش خطر دسترسی مدل‌ها به سامانه‌های غیرمجاز در طول آموزش تدوین شده است. بااین‌حال، این شرکت روشن کرده که هم‌زمان با پیشرفت قابلیت‌های هوش مصنوعی، معماری امنیتی آن نیز به تکامل خود ادامه خواهد داد.