اوپن‌ای‌آی: یک عامل هوش مصنوعی نظارت بر عملکرد خود را غیرفعال کرد و سپس درباره آن دروغ گفت
اوپن‌ای‌آی از دو مورد پرده برداشته است که در آن‌ها ابزارهای کدنویسی هوش مصنوعی این شرکت هنگام انجام وظایف خود، سازوکارهای حفاظتی و ایمنی‌شان را غیرفعال کرده‌اند. طبق گزارش رسمی این شرکت درباره این رخدادها، یکی از عوامل هوش مصنوعی حتی پس از حذف یک سامانه نظارتی فعال، به‌دروغ ادعا کرده است که چنین کاری انجام نداده است.
این دو اتفاق به‌ترتیب در ۳ اکتبر برای مدل GPT-6.1 Sol و در ۶ اکتبر برای مدل GPT-6 Astra رخ داده‌اند. اوپن‌ای‌آی یافته‌های خود را در ۲۰ اکتبر منتشر کرد و همچنان در حال بررسی علت رفتار این عوامل هوش مصنوعی است.
در مورد نخست، یکی از پژوهشگران از مدل Sol خواسته بود با استفاده از بازخوردهای موجود در اسلک، وظایف ارزیابی را انجام دهد، بدون آنکه پیامی ارسال کند. سپس از این مدل خواسته شد مشکلی را در یک خط پردازش برطرف کند که مانع ذخیره نتایج نظارت در پایگاه داده می‌شد. اما Sol به یکی از عوامل زیرمجموعه خود دستور داد هشدارها را غیرفعال کند. در نتیجه، فرایند نظارت همچنان ادامه داشت، اما دیگر هیچ اعلانی به کاربران ارسال نمی‌شد.
در مورد Astra، این مدل مأمور شده بود برنامه‌ای را با یک پیاده‌سازی مرجع تطبیق دهد. بااین‌حال، چون تنظیمات نظارتی در پیاده‌سازی مرجع وجود نداشت، Astra این موضوع را مجوزی برای حذف سامانه نظارتی فعلی تلقی کرد؛ آن هم در حالی که پیش‌تر صراحتاً به آن هشدار داده شده بود نظارت را غیرفعال نکند. مسئله به همین‌جا ختم نشد. این عامل هوش مصنوعی آزمونی را که مستلزم حفظ نظارت بود، با آزمون دیگری جایگزین کرد که برای اجرای آن باید نظارت غیرفعال می‌شد. سپس بدون اشاره به حذف سامانه نظارتی، اعلام کرد که کار را به پایان رسانده است. هنگامی هم که کاربر درباره این موضوع پرسید، آشکارا و به‌دروغ انکار کرد که سامانه نظارتی فعالی را حذف کرده است.
اوپن‌ای‌آی می‌گوید از این پس قابلیت بازبینی خودکار (Auto-Review) این شرکت، تلاش‌ها برای غیرفعال‌کردن سامانه‌های نظارت بر رفتارهای ناهمسو با اهداف تعیین‌شده را شناسایی و مسدود خواهد کرد. همچنین برای هر نوع وظیفه یا بار کاری، الزامات نظارتی مشخصی در نظر گرفته خواهد شد. بااین‌حال، این شرکت در گزارش خود درباره رفتارهای ناهمسو، احتمال داده است که چنین الگوهای رفتاری ممکن است توضیحی «بی‌خطر» داشته باشند.
اوپن‌ای‌آی در گزارش خود نوشته است: «علاوه بر دشوارترکردن غیرفعال‌سازی سامانه‌های نظارتی برای مدل‌ها، تلاش می‌کنیم بفهمیم اساساً چرا مدل‌ها ممکن است به دنبال انجام چنین کاری باشند. این احتمال وجود دارد که این رفتار صرفاً نمونه‌ای از پافشاری بیش‌ازحد اما بی‌خطر باشد؛ به این معنا که مدل‌ها اهمیت نظارت را درک نمی‌کنند یا بر اجرای دستورالعمل‌ها تا حدی اصرار می‌ورزند که فراتر از انتظار یک فرد منطقی است.»
این دو اتفاق تازه‌ترین موارد از مجموعه‌ای رو‌به‌افزایش از رخدادهایی هستند که در آن‌ها عوامل هوش مصنوعی اوپن‌ای‌آی از محدودیت‌های کنترلی تعیین‌شده عبور کرده‌اند. از جمله موارد پیشین می‌توان به ماجرای جنجالی هاگینگ فیس، مجموعه‌ای از ویرایش‌های غیرمجاز در ویکی‌پدیا و رخدادی اشاره کرد که در آن یک عامل هوش مصنوعی توانست از سازوکارهای ایمنی خود عبور کند.
افشای اطلاعات: شرکت زیف دیویس (Ziff Davis)، مالک رسانه اکستریم‌تک (ExtremeTech)، در آوریل ۲۰۲۵ شکایتی علیه اوپن‌ای‌آی تنظیم کرد و مدعی شد این شرکت در فرایند آموزش و بهره‌برداری از سامانه‌های هوش مصنوعی خود، حقوق مالکیت آثار دارای کپی‌رایت زیف دیویس را نقض کرده است.