ارزیابان مستقل در آزمایش اولیه، آسیب‌پذیری‌هایی را در سامانه نظارتی OpenAI شناسایی کردند
دو نهاد غیرانتفاعی ارزیابی ایمنی هوش مصنوعی، METR و Redwood Research، روز پنجشنبه اعلام کردند که در قالب یک برنامه آزمایشی، سامانه نظارتی داخلی OpenAI را بررسی کرده‌اند. این اقدام بخشی از تلاش‌های اخیر شرکت فعال در حوزه هوش مصنوعی برای مشخص کردن چگونگی گسترش همکاری با نهادهای مستقل ارزیابی ایمنی بود.
به گفته METR و Redwood، هدف این آزمایش آن بود که OpenAI بررسی کند واگذاری «سطح بالایی از دسترسی» به زیرساخت‌های داخلی شرکت به پژوهشگران بیرونی در عمل چگونه خواهد بود.
از ۲۱ ژوئیه تا ۱۱ اوت، یک کارمند از هر یک از این دو نهاد به مخزن کد داخلی OpenAI، مستندات شرکت و شماری از کارکنان فنی آن دسترسی داشت. طبق بیانیه منتشرشده، این افراد هنگام حضور در محل تحت نظارت بودند و از دستگاه‌هایی استفاده می‌کردند که OpenAI در اختیارشان گذاشته بود و «هرگز از محوطه شرکت خارج نمی‌شدند».
ارزیابان چندین «آسیب‌پذیری جدید» کشف کردند. یکی از این موارد، راهی برای سوءاستفاده فراهم می‌کرد که به عامل‌های هوش مصنوعی امکان می‌داد مانع نظارت بر «صدها» اقدام اخیر شوند. بر اساس بیانیه، OpenAI به METR و Redwood اطلاع داده است که آسیب‌پذیری‌های شناسایی‌شده‌ای را که بر سازوکارهای حفاظتی عملیاتی شرکت تأثیر می‌گذاشتند، برطرف کرده است.
METR و Redwood اعلام کردند توافق کرده‌اند یافته‌های خود را تنها در قالب مطلبی عمومی و با جزئیات کلی منتشر کنند؛ زیرا هدف این برنامه آزمایشی، «فراهم کردن شفافیت عمومی جامع درباره سامانه نظارتی OpenAI» نبود. این دو نهاد گزارش داخلی ۶۱ صفحه‌ای خود را در اختیار OpenAI قرار دادند و گفتند انتظار دارند جزئیات بیشتری از آزمایش‌های آینده را به‌صورت عمومی منتشر کنند.
یکی از سخنگویان OpenAI در بیانیه‌ای به شبکه CNBC گفت: «این همکاری بر تعهد دیرینه ما به پیشگامی در رویکردهای جدید برای آزمون مستقل محصولات و سامانه‌ها استوار است. از آموخته‌های این فرایند برای تقویت سازوکارهای حفاظتی خود و شکل دادن به همکاری‌های آینده با ارزیابان مستقل استفاده می‌کنیم.»
سم آلتمن، مدیرعامل OpenAI، در سپتامبر وعده داد که ارزیابان مستقل به شرکت «دسترسی‌ای مشابه دسترسی کارکنان» داشته باشند. این وعده پس از آن مطرح شد که داریو آمودی، مدیرعامل Anthropic، این ایده را به‌عنوان بخشی از برنامه خود برای کند کردن روند توسعه هوش مصنوعی پیشنهاد کرد. Anthropic از آن زمان توافق‌هایی را با سازمان‌هایی از جمله Accenture، METR و SecureBio اعلام کرده است. OpenAI نیز اوایل همین ماه اعلام کرد که «در حال نهایی کردن قراردادها با ارزیابان مستقل ایمنی» است.
دونالد ترامپ، رئیس‌جمهور ایالات متحده، که رویکردی کمتر مداخله‌گرانه در تنظیم مقررات هوش مصنوعی در پیش گرفته، از ارزیابی مستقل نیز حمایت کرده است. او در قالب یک توافق داوطلبانه که در کاخ سفید ارائه کرد، شرکت‌های هوش مصنوعی را تشویق کرد با «یک حسابرس یا ارزیاب مستقل بیرونی همکاری کنند». آمودی، مدیرعامل Anthropic، این توافق را امضا کرد؛ مدیران ارشد Google، Meta، OpenAI، SpaceX و Nvidia نیز از امضاکنندگان آن بودند.
ارزیابان مستقل در گذشته نقش کم‌سروصدایی در صنعت چندتریلیون‌دلاری هوش مصنوعی داشته‌اند. به همین دلیل، کارشناسان در گفت‌وگو با CNBC گفته‌اند هنوز پرسش‌هایی درباره نحوه تأمین مالی این نهادها و ساختار گزارش‌دهی نهایی آن‌ها وجود دارد.
METR و Redwood روز پنجشنبه اعلام کردند که در جریان برنامه آزمایشی سه‌هفته‌ای خود، سامانه داخلی OpenAI برای نظارت بر ناهماهنگی مدل‌ها را تحت آزمون‌های سخت‌گیرانه قرار داده‌اند. در حوزه هوش مصنوعی، «هم‌راستایی» به این معناست که آیا یک مدل مطابق با منافع و ارزش‌های انسانی رفتار می‌کند یا خیر.
ارزیابان سامانه نظارتی را در وضعیت موجود تا ۲۱ ژوئیه و پیش از آن بررسی کردند و خاطرنشان کردند که OpenAI در طول اجرای آزمایش، در حال گسترش این سامانه نیز بود.