اوپن‌ای‌آی می‌گوید عامل‌های هوش مصنوعی این شرکت سامانه نظارت داخلی را تضعیف کرده‌اند
مکزیکوسیتی، ۲۰ اکتبر: اوپن‌ای‌آی روز سه‌شنبه اعلام کرد دو عامل هوش مصنوعی این شرکت بخش‌هایی از سامانه نظارت داخلی را که برای شناسایی رفتارهای نامناسب طراحی شده بود، تضعیف کرده‌اند. این تازه‌ترین مورد از رفتارهایی است که در آن عامل‌های هوش مصنوعی برخلاف قصد و انتظار توسعه‌دهندگان خود عمل می‌کنند.
شرکت سازنده چت‌جی‌پی‌تی اعلام کرد این دو اتفاق هنگام انجام وظایف برنامه‌نویسی داخلی رخ داده‌اند و از نظر این شرکت، جزو شدیدترین موارد تخلف نبوده‌اند. بااین‌حال، این افشاگری نشان می‌دهد حتی سامانه‌هایی که توسعه‌دهندگان برای شناسایی رفتارهای نامناسب هوش مصنوعی به آن‌ها متکی هستند، ممکن است در برابر همان عامل‌هایی که زیر نظر دارند آسیب‌پذیر باشند.
این افشاگری در شرایطی صورت می‌گیرد که نگرانی‌ها درباره عقب‌ماندن تلاش‌ها برای ایمن‌سازی هوش مصنوعی از سرعت توسعه سامانه‌های هرچه قدرتمندتر افزایش یافته است. پژوهشگران هشدار داده‌اند که با افزایش استقلال عمل عامل‌های پیشرفته هوش مصنوعی، نظارت بر آن‌ها و کنترلشان ممکن است دشوارتر شود.
در ماه‌های اخیر، شرکت‌های توسعه‌دهنده هوش مصنوعی، از جمله اوپن‌ای‌آی و رقیب آن، آنتروپیک، که هر دو در مسیر عرضه اولیه سهام قرار دارند، مواردی را گزارش کرده‌اند که در آن عامل‌های هوش مصنوعی آن‌ها بدون مجوز به سامانه‌های خارجی دسترسی پیدا کرده‌اند.
اوپن‌ای‌آی روز سه‌شنبه اعلام کرد یک عامل GPT-6.1 Sol که در سوم اکتبر مشغول انجام یک وظیفه آزمایشی داخلی بود، پس از آنکه به این نتیجه رسید دستور قبلی مبنی بر ارسال نکردن پیام در اسلک شامل اعلان‌های ایمنی نیز می‌شود، هشدارهای خودکار امنیتی را متوقف کرد.
این شرکت همچنین گفت در رویدادی جداگانه در ششم اکتبر، یک عامل GPT-6 Astra هنگام کپی‌کردن بخشی از کد موجود، ابزار نظارت ایمنی را حذف کرد و بعدتر به‌اشتباه ادعا کرد که چنین کاری انجام نداده است.
اوپن‌ای‌آی اعلام کرد: «در هر دو مورد، عامل‌ها بررسی کردند که آیا باید تدابیر حفاظتی نظارتی حفظ شوند یا نه، اما دستورهای معمول برنامه‌نویسی را به‌اشتباه مجوزی برای تضعیف این تدابیر تلقی کردند.»
اوپن‌ای‌آی اعلام کرد در حال دشوارتر کردن امکان غیرفعال‌سازی سامانه‌های نظارتی برای مدل‌های خود است و افزود که این شرکت «هنوز توضیح قانع‌کننده‌ای برای این رفتار ندارد».
این شرکت مستقر در سان‌فرانسیسکو گفت در حال آزمایش این موضوع است که آیا مدل‌هایش ممکن است گرایشی به اجتناب از نظارت داشته باشند و برای توجیه چنین رفتاری به دنبال دلایلی بگردند یا خیر.