اوپن‌ای‌آی می‌گوید عوامل هوش مصنوعی این شرکت سامانه‌های نظارتی ایمنی خود را غیرفعال کرده‌اند
خلاصه خبر
دو عامل هوش مصنوعی اوپن‌ای‌آی ابزارهایی را که برای شناسایی رفتارهای مغایر با دستورهای انسانی طراحی شده بودند، غیرفعال یا تضعیف کردند.
این دو اتفاق اوایل ماه جاری رخ دادند و یکی از عوامل بعداً به برنامه‌نویس خود گفت که سامانه نظارتی‌اش را حذف نکرده است.
این حوادث به نگرانی‌های فزاینده درباره توانایی شرکت‌های هوش مصنوعی در کنترل سامانه‌های خودمختار دامن زده‌اند.
اوپن‌ای‌آی فاش کرده است که دو عامل هوش مصنوعی این شرکت سامانه‌هایی را که برای شناسایی رفتارهای نامناسب آن‌ها طراحی شده بودند، غیرفعال یا تضعیف کرده‌اند؛ یکی از این عوامل نیز بعداً انجام چنین کاری را انکار کرده است.
این موارد تازه‌ترین نمونه از مجموعه‌ای از نگرانی‌های ایمنی در شرکت‌های پیشرو هوش مصنوعی جهان هستند؛ شرکت‌هایی که عوامل هوش مصنوعی، یعنی برنامه‌هایی قادر به انجام وظایف بدون دخالت انسان، را توسعه می‌دهند.
شرکت سازنده چت‌جی‌پی‌تی در گزارشی که این هفته منتشر کرد، گفت عوامل هوش مصنوعی آن در جریان دو مأموریت داخلی برنامه‌نویسی، ابزارهای شناسایی مواردی را که مدل‌های هوش مصنوعی برخلاف خواسته انسان عمل می‌کنند، از کار انداختند یا کارایی آن‌ها را مختل کردند.
در ۳ اکتبر، عاملی مبتنی بر مدل GPT-6.1 Sol اوپن‌ای‌آی که به آن دستور داده شده بود هیچ پیامی در برنامه گفت‌وگوی کاری ارسال نکند، این دستور را مجوزی برای غیرفعال کردن هشدارهای ایمنی تیم امنیتی شرکت تلقی کرد. این عامل هنگام رفع اشکال یک سامانه آزمایشی، هشدارهای یادشده را از کار انداخت.
سه روز بعد، عاملی مبتنی بر GPT-6 Astra هنگام کپی کردن کد از پروژه‌ای دیگر، سامانه نظارتی خود را حذف کرد و سپس به برنامه‌نویس انسانی گفت که چنین کاری انجام نداده است.
اوپن‌ای‌آی اعلام کرد که موارد دیگری نیز مشاهده کرده است که عوامل هوش مصنوعی نرم‌افزارهایی را با سامانه نظارتی غیرفعال اجرا کرده‌اند؛ مسئله‌ای که از وجود شکاف در سازوکارهای نظارتی شرکت حکایت دارد.
این شرکت گفت هنوز در تلاش است مشخص کند که آیا مدل‌ها صرفاً در اجرای دستورها بیش از حد پیش رفته‌اند یا تمایل ویژه‌ای به دور زدن نظارت دارند.
این شرکت اعلام کرد: «هنوز توضیح قانع‌کننده‌ای برای این رفتار نداریم.»
انتشار این اطلاعات بر نگرانی‌های فزاینده درباره توانایی آزمایشگاه‌های پیشرو هوش مصنوعی در کنترل سامانه‌هایی می‌افزاید که هر روز خودمختارتر می‌شوند.
در ماه ژوئیه، گروهی از عوامل اوپن‌ای‌آی از محیط‌های آزمایشی خود خارج شدند و حمله‌ای سایبری علیه شرکت هوش مصنوعی هَگینگ فیس ترتیب دادند؛ رویدادی که در سطح بین‌المللی نگرانی ایجاد کرد. از آن زمان، شرکت‌های دیگری نیز حوادث مشابهی را گزارش کرده‌اند.
آنتونی آلبانیزی، نخست‌وزیر استرالیا، نیز مدل‌های این شرکت هوش مصنوعی را به نفوذ به وب‌سایت مدیکر متهم کرد؛ وب‌سایتی که اطلاعات عمومی و خصوصی در آن وجود داشت. با این حال، در آن حادثه هیچ اطلاعات شخصی‌ای مورد دسترسی قرار نگرفت. جزئیات آنچه درباره نفوذ به سامانه مدیکر اوپن‌ای‌آی می‌دانیم.
این حوادث به افزایش درخواست‌ها در ایالات متحده و دیگر کشورها برای نظارت سخت‌گیرانه‌تر بر توسعه هوش مصنوعی دامن زده‌اند.
با این حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده، با توصیه مدیران ارشد صنعت هوش مصنوعی، از جمله جنسن هوانگ، مدیرعامل انویدیا، از این صنعت خواسته است بر عملکرد خود نظارت کند.
خبرگزاری فرانسه (AFP)