ارزیابی آزمایشی کارشناسان مستقل، ایرادهایی را در سامانه نظارت هوش مصنوعی OpenAI آشکار کرد
(به‌روزرسانی: ۲۳ اکتبر ۲۰۲۶، ساعت ۰۲:۰۵)
در یک ارزیابی آزمایشی که اوایل سال جاری انجام شد، دو سازمان ارزیاب ایمنی هوش مصنوعی، METR و Redwood Research، چندین آسیب‌پذیری جدید را در سامانه داخلی OpenAI شناسایی کردند. این ایرادها شامل روشی بود که عامل‌های هوش مصنوعی می‌توانستند با استفاده از آن، صدها اقدام خود را از نظارت سامانه پنهان کنند.
این دو سازمان غیرانتفاعی ایمنی روز پنجشنبه اعلام کردند که در جریان این بررسی، از ۲۱ ژوئیه تا ۱۱ اوت، پژوهشگران بیرونی برای انجام ارزیابی‌های موسوم به «ارزیابی‌های تعبیه‌شده» به سطح گسترده‌ای از زیرساخت داخلی OpenAI دسترسی داشتند.
METR و Redwood اعلام کردند هر کدام یک پژوهشگر را به این پروژه اعزام کردند. این پژوهشگران سامانه‌ای را بررسی کردند که دسترسی به کد داخلی، مستندات و شماری از کارکنان فنی OpenAI را فراهم می‌کرد. هر دو پژوهشگر در تمام مدت با همراهی کارکنان این شرکت فعالیت داشتند و از دستگاه‌هایی استفاده می‌کردند که OpenAI در اختیارشان گذاشته بود و به گفته این دو سازمان، «هرگز از محل شرکت خارج نشدند».
OpenAI به این دو سازمان ایمنی اعلام کرد که از آن زمان، تمام آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتی مورد استفاده در محیط عملیاتی را برطرف کرده است. با این حال، METR و Redwood گفتند که این اصلاحات را مستقلاً بررسی و تأیید نکرده‌اند.
آزمایش و ارزیابی مستقل از سوی کارشناسان بیرونی، روشی است که آزمایشگاه‌های هوش مصنوعی، متخصصان و دولت دونالد ترامپ از آن حمایت کرده‌اند؛ روشی که هدف آن پیشبرد ایمن این فناوری، بدون کند کردن روند توسعه آن است.
با این حال، شرکت‌های هوش مصنوعی نگران‌اند کارکنان نهادهای ارزیاب که در محل این شرکت‌ها فعالیت می‌کنند، اطلاعات اختصاصی را با خود ببرند و در اختیار شرکت‌های رقیب قرار دهند. رویترز اوایل همین ماه این نگرانی‌ها را گزارش کرده بود.
OpenAI نسخه کامل گزارش داخلی ۶۱ صفحه‌ای را دریافت کرد، اما METR و Redwood گفتند توافق کرده‌اند که تنها خلاصه‌ای کلی از یافته‌ها را به‌صورت عمومی منتشر کنند و به OpenAI اجازه داده‌اند اطلاعات حساس را از متن منتشرشده حذف کند.
این دو سازمان برخلاف برخی ارزیابی‌های پیشین، اجازه نداشتند بخش‌های حذف‌شده را مستقلاً افشا کنند؛ با این حال، اعلام کردند انتظار دارند در ارزیابی‌های آینده شفافیت بیشتری وجود داشته باشد.
پژوهشگران همچنین روشی بالقوه شناسایی کردند که می‌توانست به عامل‌های Codex متعلق به OpenAI اجازه دهد محدودیت‌های امنیتی را دور بزنند و با تمام سطح دسترسی کاربران خود اقدام کنند.
ارزیابان سامانه نظارتی را با توجه به وضعیت آن در ۲۱ ژوئیه و پیش از آن بررسی کردند و خاطرنشان کردند که OpenAI در طول اجرای این آزمایش، در حال گسترش این سامانه بود.
OpenAI اعلام کرد: «این یافته‌ها به تقویت سازوکارهای حفاظتی در جریان گسترش سامانه کمک کردند و در شکل‌گیری همکاری‌های پژوهشی آینده ما با METR و دیگر ارزیابان مستقل نیز مؤثر خواهند بود.»
منبع: رویترز