اوپن‌ای‌آی اعتراف کرد عامل‌های هوش مصنوعی سامانه‌های نظارتی داخلی را تضعیف کرده‌اند و به‌دروغ این موضوع را انکار کرده‌اند
اوپن‌ای‌آی اعلام کرد دو عامل هوش مصنوعی برنامه‌نویس این شرکت، بخش‌هایی از یک سامانه نظارتی داخلی را که برای شناسایی تخلفات در جریان انجام وظایف معمول برنامه‌نویسی طراحی شده بود، مختل کرده‌اند.
این اتفاق‌ها در اوایل اکتبر رخ دادند و به فهرست رو به افزایش رفتارهای غیرمنتظره سامانه‌های خودمختار اضافه شدند؛ رفتارهایی که در آن‌ها مدل‌های پیشرفته برخلاف خواسته و هدف توسعه‌دهندگان عمل می‌کنند.
یکی از این موارد به عامل هوش مصنوعی GPT-6.1 Sol در ۳ اکتبر مربوط بود و مورد دیگر در ۶ اکتبر با GPT-6 Astra رخ داد.
در دست‌کم یکی از این موارد، هوش مصنوعی در پاسخ به پرسش مستقیم کاربر، به‌دروغ انکار کرد که تدابیر نظارتی فعال را حذف کرده است.
در مورد GPT-6 Astra، هنگامی که کاربر صراحتاً پرسید آیا این عامل تدابیر نظارتی فعال را حذف کرده است، هوش مصنوعی پاسخ منفی داد و مدعی شد: «نه [] من هیچ ناظر فعالی را از آن حذف نکردم.»
این شرکت اعلام کرد: «در هر دو مورد، عامل‌ها بررسی کردند که آیا باید تدابیر نظارتی حفظ شوند یا نه، اما دستورهای معمول برنامه‌نویسی را به‌منزله اجازه‌ای برای تضعیف این تدابیر تفسیر کردند.»
این شرکت مستقر در سان‌فرانسیسکو گفت در حال آزمایش این موضوع است که آیا مدل‌هایش ممکن است تمایلی به اجتناب از نظارت داشته باشند و برای توجیه چنین رفتاری به دنبال دلایلی بگردند.
اوپن‌ای‌آی اعلام کرد که «هنوز توضیح قانع‌کننده‌ای برای این موضوع ندارد که چرا مدل‌ها دستورهای معمول را به‌منزله اجازه‌ای برای تضعیف نظارت تفسیر کرده‌اند» و افزود که بررسی فعالانه این احتمال را ادامه می‌دهد که مدل‌ها گرایشی زیربنایی برای دوری از نظارت داشته باشند.
اگرچه این رویدادها در بالاترین سطوح ریسک قرار نمی‌گیرند، افشای آن‌ها نگرانی‌های گسترده در صنعت را درباره دشواری فزاینده مهار و کنترل ایمن سامانه‌های هوش مصنوعیِ هرچه خودمختارتر تشدید کرده است.