ارزیابان مستقل در بررسی آزمایشی، نقص‌هایی در سامانه نظارت هوش مصنوعی OpenAI شناسایی کردند
۲۲ اکتبر (رویترز) ـ دو نهاد ارزیابی ایمنی هوش مصنوعی، METR و Redwood Research، در جریان یک بررسی آزمایشی در اوایل سال جاری، چندین آسیب‌پذیری جدید در سامانه نظارت داخلی OpenAI شناسایی کردند. یکی از این آسیب‌پذیری‌ها می‌توانست به عامل‌های هوش مصنوعی امکان دهد صدها اقدام خود را از دید سامانه نظارتی پنهان کنند.
این دو سازمان غیرانتفاعی فعال در حوزه ایمنی هوش مصنوعی روز پنجشنبه اعلام کردند که در این ارزیابی، از ۲۱ ژوئیه تا ۱۱ اوت، پژوهشگران بیرونی برای انجام ارزیابی‌های موسوم به «ارزیابی‌های تعبیه‌شده» (embedded evaluations)، به سطح دسترسی گسترده‌ای به زیرساخت داخلی OpenAI دست یافتند.
به گفته METR و Redwood Research، هر یک از این دو سازمان یک پژوهشگر را برای انجام آزمایش اعزام کردند. در این بررسی، ترتیباتی آزمایش شد که به پژوهشگران اجازه می‌داد به کد داخلی، مستندات و شماری از کارکنان فنی OpenAI دسترسی داشته باشند. هر دو پژوهشگر در محل تحت همراهی و نظارت قرار داشتند و از دستگاه‌هایی استفاده می‌کردند که OpenAI در اختیارشان گذاشته بود و به گفته این دو سازمان، «هرگز از محوطه شرکت خارج نشدند».
OpenAI به این دو سازمان فعال در حوزه ایمنی اعلام کرد که از آن زمان تاکنون، تمام آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتی مورد استفاده در محیط عملیاتی را برطرف کرده است. با این حال، METR و Redwood گفتند که اصلاحات انجام‌شده را مستقلاً راستی‌آزمایی نکرده‌اند.
آزمایشگاه‌های هوش مصنوعی، کارشناسان و دولت دونالد ترامپ، ارزیابی مستقل از سوی بررسی‌کنندگان بیرونی را راهی برای پیشبرد ایمن این فناوری، بدون کند کردن روند توسعه آن، مطرح کرده‌اند.
با این حال، شرکت‌های هوش مصنوعی نگران‌اند که کارکنان نهادهای ارزیاب که در داخل شرکت‌ها فعالیت می‌کنند، اطلاعات اختصاصی را با خود به شرکت‌های رقیب ببرند؛ موضوعی که رویترز اوایل همین ماه گزارش داد.
OpenAI نسخه کامل گزارش داخلی ۶۱ صفحه‌ای را دریافت کرد، اما METR و Redwood اعلام کردند که توافق کرده‌اند فقط خلاصه‌ای کلی از یافته‌ها را به‌صورت عمومی منتشر کنند و حق حذف اطلاعات حساس را نیز به OpenAI داده‌اند.
این دو سازمان گفتند برخلاف برخی ارزیابی‌های پیشین، امکان افشای مستقل موارد حذف‌شده از گزارش را نداشتند، اما انتظار دارند در ارزیابی‌های آینده شفافیت بیشتری فراهم شود.
پژوهشگران همچنین راهکاری بالقوه شناسایی کردند که می‌توانست به عامل‌های Codex متعلق به OpenAI اجازه دهد محدودیت‌های امنیتی را دور بزنند و با تمام سطح دسترسی و مجوزهای کاربران خود اقدام کنند.
ارزیابان سامانه نظارتی را در وضعیت موجود تا پیش از ۲۱ ژوئیه و در همان تاریخ بررسی کردند و خاطرنشان کردند که OpenAI در طول اجرای این ارزیابی، در حال گسترش این سامانه بود.
OpenAI اعلام کرد: «یافته‌ها به تقویت سازوکارهای حفاظتی هم‌زمان با گسترش سامانه کمک کردند و در شکل‌دهی به همکاری‌های پژوهشی آینده ما با METR و دیگر ارزیابان مستقل نیز مؤثر خواهند بود.»
گزارش از آدیتیا سونی و انزار مهراج در بنگلور؛ ویرایش از جاناتان آناندا و ویجای کیشور
نویسنده: آدیتیا سونی