ارزیابان مستقل در بررسی آزمایشی، نقص‌هایی در سامانه نظارت بر هوش مصنوعی OpenAI کشف کردند
ارزیابان ایمنی هوش مصنوعی از دو سازمان METR و Redwood Research در یک بررسی آزمایشی که اوایل سال جاری انجام شد، چند آسیب‌پذیری جدید در سامانه داخلی OpenAI شناسایی کردند. یکی از این آسیب‌پذیری‌ها به عامل‌های هوش مصنوعی امکان می‌داد با سوءاستفاده از یک نقص امنیتی، صدها اقدام خود را از نظارت سامانه پنهان کنند.
این بررسی از ۲۱ ژوئیه تا ۱۱ اوت انجام شد. دو سازمان غیرانتفاعی فعال در حوزه ایمنی هوش مصنوعی روز پنجشنبه اعلام کردند که در جریان این آزمایش، پژوهشگران مستقل برای انجام ارزیابی‌های موسوم به «ارزیابی‌های تعبیه‌شده» (Embedded Evaluations)، دسترسی گسترده و عمیقی به زیرساخت‌های داخلی OpenAI پیدا کردند.
سازمان‌های METR و Redwood اعلام کردند که هرکدام یک پژوهشگر را برای شرکت در این آزمایش اعزام کردند. هدف، بررسی شیوه‌ای از همکاری بود که به ارزیابان خارجی امکان دسترسی به کدهای داخلی، مستندات و برخی کارکنان فنی OpenAI را می‌داد. پژوهشگران در تمام مدت حضور در محل، همراهی می‌شدند و از دستگاه‌هایی استفاده می‌کردند که OpenAI در اختیارشان گذاشته بود و «هرگز از محل شرکت خارج نمی‌شدند».
OpenAI به این دو سازمان اعلام کرده است که از آن زمان تاکنون تمام آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتی سامانه‌های عملیاتی خود را برطرف کرده است. بااین‌حال، METR و Redwood تأکید کردند که هنوز صحت این اصلاحات را به‌طور مستقل بررسی نکرده‌اند.
آزمایشگاه‌های هوش مصنوعی، کارشناسان این حوزه و دولت ترامپ، ارزیابی مستقل از سوی نهادهای بیرونی را راهکاری برای پیشبرد ایمن فناوری هوش مصنوعی بدون کند کردن روند توسعه آن معرفی کرده‌اند.
بااین‌حال، رویترز اوایل ماه جاری گزارش داد که شرکت‌های فعال در حوزه هوش مصنوعی نگران‌اند کارکنان نهادهای ارزیاب که در محیط داخلی این شرکت‌ها فعالیت می‌کنند، اطلاعات اختصاصی و محرمانه آن‌ها را در اختیار رقبا قرار دهند.
اگرچه OpenAI گزارش داخلی کامل این بررسی را در ۶۱ صفحه دریافت کرد، سازمان‌های METR و Redwood اعلام کردند که توافق کرده‌اند تنها خلاصه‌ای کلی از یافته‌ها را به‌صورت عمومی منتشر کنند. همچنین به OpenAI اختیار داده شد تا اطلاعات حساس را پیش از انتشار حذف یا پنهان کند.
برخلاف برخی ارزیابی‌های پیشین، این دو سازمان اجازه نداشتند بخش‌هایی را که OpenAI از گزارش حذف کرده بود، به‌طور مستقل افشا کنند. بااین‌حال، ابراز امیدواری کردند که ارزیابی‌های آینده با شفافیت بیشتری انجام شود.
پژوهشگران همچنین روشی احتمالی شناسایی کردند که می‌توانست به عامل‌های Codex متعلق به OpenAI امکان دهد محدودیت‌های امنیتی را دور بزنند و با تمام سطح دسترسی و مجوزهای کاربران خود اقدام کنند.
ارزیابان، سامانه نظارتی OpenAI را بر اساس وضعیت آن تا تاریخ ۲۱ ژوئیه، شامل همان روز، بررسی کردند. آن‌ها همچنین یادآور شدند که OpenAI در طول اجرای این آزمایش در حال گسترش سامانه نظارتی خود بود.
OpenAI در واکنش به نتایج این بررسی اعلام کرد: «این یافته‌ها به ما کمک کردند هم‌زمان با گسترش سامانه، سازوکارهای حفاظتی آن را تقویت کنیم. همچنین نتایج به‌دست‌آمده در شکل‌گیری همکاری‌های پژوهشی آینده ما با METR و دیگر ارزیابان مستقل نقش خواهند داشت.»