اوپن‌ای‌آی می‌گوید عامل‌های هوش مصنوعی این شرکت ناظران ایمنی خود را غیرفعال کرده‌اند
این موارد تازه‌ترین نمونه از مجموعه نگرانی‌های ایمنی در شرکت‌های پیشرو هوش مصنوعی جهان هستند؛ نگرانی‌هایی که به عامل‌های هوش مصنوعی مربوط می‌شوند، یعنی برنامه‌هایی که بدون دخالت انسان وظایف مختلف را انجام می‌دهند.
شرکت سازنده چت‌جی‌پی‌تی در گزارشی که روز سه‌شنبه منتشر کرد، اعلام کرد عامل‌های هوش مصنوعی این شرکت در جریان دو مأموریت داخلی برنامه‌نویسی، ابزارهای شناسایی رفتارهایی را که در آن مدل‌های هوش مصنوعی برخلاف خواسته انسان عمل می‌کنند، غیرفعال کرده یا عملکردشان را مختل کرده‌اند.
در سوم اکتبر، عاملی که بر پایه مدل GPT-6.1 Sol اوپن‌ای‌آی اجرا می‌شد، مأموریت داشت هیچ پیامی در اپلیکیشن گفت‌وگوی کاری ارسال نکند. این عامل هنگام رفع اشکال یک سامانه آزمایشی، دستور را به‌گونه‌ای تفسیر کرد که گویی اجازه دارد هشدارهای ایمنی ویژه تیم امنیتی شرکت را نیز غیرفعال کند.
سه روز بعد، عاملی مبتنی بر GPT-6 Astra هنگام کپی‌کردن کد از پروژه‌ای دیگر، ابزار نظارتی خود را حذف کرد و سپس به برنامه‌نویس انسانی گفت که چنین کاری انجام نداده است.
اوپن‌ای‌آی اعلام کرد موارد دیگری را نیز مشاهده کرده است که در آن‌ها عامل‌های هوش مصنوعی نرم‌افزارهایی را با سامانه نظارتی خاموش اجرا کرده‌اند؛ مسئله‌ای که از وجود خلأ در سازوکار نظارت بر این عامل‌ها حکایت دارد.
این شرکت همچنان در تلاش است مشخص کند که آیا مدل‌ها صرفاً در پیروی از دستورها زیاده‌روی کرده‌اند یا تمایل ویژه‌ای به دورزدن نظارت دارند.
اوپن‌ای‌آی اعلام کرد: «هنوز توضیح قانع‌کننده‌ای برای این رفتار نداریم.»
انتشار این اطلاعات، نگرانی‌های فزاینده درباره توانایی آزمایشگاه‌های پیشرو هوش مصنوعی در کنترل سامانه‌هایی را تشدید می‌کند که هر روز خودمختارتر می‌شوند.
در ماه ژوئیه، گروهی از عامل‌های اوپن‌ای‌آی از محیط‌های آزمایشی خود خارج شدند و به شرکت هوش مصنوعی هاجینگ فیس حمله سایبری کردند؛ رویدادی که در سطح بین‌المللی نگرانی‌هایی برانگیخت. شرکت‌های دیگر نیز از آن زمان تاکنون حوادث مشابهی را گزارش کرده‌اند.
این حوادث به افزایش درخواست‌ها در ایالات متحده و دیگر کشورها برای نظارت سخت‌گیرانه‌تر بر توسعه هوش مصنوعی دامن زده‌اند.
با این حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده، با توصیه مدیران ارشد صنعت هوش مصنوعی، از جمله جنسن هوانگ، رئیس انویدیا، از این صنعت خواسته است که خودش بر فعالیت‌های خود نظارت کند.