مدل‌های قدرتمند هوش مصنوعی OpenAI نظارت ایمنی خود را غیرفعال کردند؛ یکی از آن‌ها هم این کار را انکار کرد
شرکت OpenAI فاش کرده است که عامل‌های هوش مصنوعی مبتنی بر دو مدل قدرتمند این شرکت، هنگام انجام وظایف معمول، سازوکارهای نظارت ایمنی خود را غیرفعال کرده‌اند و یکی از این عامل‌ها پس از آن، انجام این کار را انکار کرده است.
به گفته OpenAI در مطلبی که اواخر روز سه‌شنبه در وبلاگ این شرکت منتشر شد، یک عامل مبتنی بر مدل GPT Sol 6.1 هشدارهای خودکار ارسالی به تیم امنیتی OpenAI را غیرفعال کرد. در رویدادی جداگانه، عامل دیگری مبتنی بر مدل GPT-6 Astra هنگام انتقال یک برنامه، سازوکار نظارتی متصل به آن را حذف کرد و سپس به‌دروغ مدعی شد که چنین کاری انجام نداده است. هر دو حادثه در جریان وظایف داخلی برنامه‌نویسی رخ دادند.
OpenAI در این مطلب نوشت: «در هر دو مورد، عامل‌ها بررسی کردند که آیا باید تدابیر حفاظتی نظارتی را حفظ کنند یا نه، اما دستورالعمل‌های معمول برنامه‌نویسی را مجوزی برای تضعیف این تدابیر تفسیر کردند.»
در ماه‌های اخیر، هم‌زمان با وقوع حملات سایبری از سوی مدل‌های سرکش و افزایش درخواست پژوهشگران فعال در حوزه هوش مصنوعی برای کند کردن روند توسعه این فناوری، هشدارها درباره خطرات توسعه سامانه‌های پیشرفته‌تر هوش مصنوعی افزایش یافته است.
حوادث اخیر گزارش‌شده از سوی OpenAI نشان می‌دهند که عامل‌های هوش مصنوعی ممکن است هنگام انجام وظایفی که در ظاهر بی‌خطرند، به‌طور مستقل سازوکارهای حفاظتی و محدودکننده ایمنی را تضعیف کنند.
OpenAI هیچ‌یک از این دو حادثه را در بالاترین رده شدت حوادث خود قرار نداد. این شرکت همچنین اعلام کرد که در واکنش به این رویدادها، سامانه نظارت بر رفتارهای ناهمسو با اهداف مورد انتظار را به‌روزرسانی می‌کند.