اوپن‌ای‌آی می‌گوید عامل‌های هوش مصنوعی این شرکت سامانه شناسایی رفتارهای نادرست هوش مصنوعی را تضعیف کردند
نگرانی‌ها درباره ناهم‌سویی هوش مصنوعی در ماه‌های اخیر افزایش یافته است؛ اوپن‌ای‌آی و شرکت‌های رقیبی مانند آنتروپیک موارد متعددی از بروز چنین رفتاری در پیشرفته‌ترین مدل‌های هوش مصنوعی خود را گزارش کرده‌اند.
اوپن‌ای‌آی دریافته است که در مواردی، عامل‌های هوش مصنوعی این شرکت هشدارهای یک سامانه نظارتی داخلی را که برای شناسایی رفتارهای نادرست مدل‌های هوش مصنوعی طراحی شده است، تضعیف کرده‌اند و حتی آن را از کار انداخته‌اند. این افشاگری بخشی از مجموعه‌ای از رویدادهای مشابه است که طی ماه‌های اخیر گزارش شده‌اند.
این شرکت روز سه‌شنبه در مطلبی در وبلاگ خود اعلام کرد در حال بررسی این موضوع است که آیا چنین مواردی نشان‌دهنده گرایش گسترده‌تر مدل‌های هوش مصنوعی آن به اجتناب از نظارت هستند یا خیر.
اوپن‌ای‌آی گفت این اتفاق‌ها زمانی رخ دادند که عامل‌های هوش مصنوعی آن مشغول انجام دو وظیفه برنامه‌نویسی داخلی بودند.
بر اساس این مطلب، این رویداد در داخل شرکت اتفاق افتاده است و اوپن‌ای‌آی هیچ طرف خارجی را به‌عنوان فرد یا نهادی که از آن آسیب دیده باشد، معرفی نکرده است.
نگرانی‌ها درباره «ناهم‌سویی هوش مصنوعی» در ماه‌های اخیر افزایش یافته است. این اصطلاح به وضعیتی اشاره دارد که در آن یک مدل برخلاف خواسته سازندگانش عمل می‌کند. اوپن‌ای‌آی و شرکت رقیب آن، آنتروپیک پی‌بی‌سی، در این مدت موارد متعددی از بروز چنین رفتاری در پیشرفته‌ترین مدل‌های هوش مصنوعی خود را گزارش کرده‌اند.
مدل‌های هوش مصنوعی بارها از محیط‌های بسته آموزش خارج شده‌اند و حملاتی را به‌صورت مستقل علیه وب‌سایت‌های متعلق به اشخاص ثالث انجام داده‌اند. توسعه‌دهندگان هوش مصنوعی هشدار داده‌اند که ممکن است سامانه‌های آن‌ها به‌زودی آن‌قدر پیشرفته شوند که کنترلشان برای انسان‌ها دشوار شود. این نگرانی نیز وجود دارد که افراد دارای اهداف مخرب از این فناوری برای ساخت سلاح‌های زیستی یا انجام حملات سایبری ویرانگر استفاده کنند.
این رویدادها و مجموعه‌ای از هشدارهای جدی از سوی فعالان این صنعت، بحث ایمنی هوش مصنوعی را به موضوعی فراگیر در سطح جامعه تبدیل کرده است.
اوپن‌ای‌آی اعلام کرد برای به حداقل رساندن احتمال تکرار چنین رویدادهایی، بررسی‌های بیشتری انجام خواهد داد و در آینده الزامات ایمنی سخت‌گیرانه‌تری را اجرا خواهد کرد.
با این حال، این شرکت اذعان کرد که هنوز «توضیح قانع‌کننده‌ای» برای رفتار عامل‌های هوش مصنوعی خود ندارد.