اوپن‌ای‌آی در پی تحقیق درباره افشای احتمالی اطلاعات محرمانه، سه پژوهشگر ایمنی را اخراج کرد
بمبئی: بر اساس گزارشی از روزنامه وال‌استریت ژورنال، شرکت اوپن‌ای‌آی پس از انجام تحقیقاتی درباره افشای احتمالی اطلاعات محرمانه شرکت، سه پژوهشگر حوزه ایمنی هوش مصنوعی، جاسمین وانگ، تومک کورباک و میکیتا بالِسنی، را اخراج کرده است.
این تحقیقات ظاهراً بر اطلاعات مربوط به فرایند استدلال درونی و غیرشفاف مدل هوش مصنوعی آسترا متعلق به اوپن‌ای‌آی متمرکز بوده است. از این سه پژوهشگر درباره احتمال دست داشتن در افشای اطلاعات تحقیق شد، اما هر سه این اتهام را رد کردند.
طبق گزارش، مسئولان امنیتی اوپن‌ای‌آی از پژوهشگران خواستند قفل تلفن‌های همراه شخصی خود را باز کنند. در جریان بررسی‌ها مشخص شد که قابلیت حذف خودکار پیام‌ها برای برخی از گفت‌وگوهای آن‌ها در پیام‌رسان سیگنال فعال بوده است. این قابلیت پیام‌ها را پس از سپری شدن مدت‌زمانی مشخص به‌طور خودکار حذف می‌کند. با این حال، گزارش هویت همه افرادی را که در این گفت‌وگوها حضور داشته‌اند، مشخص نکرده است.
حدود یک هفته پس از بازجویی‌ها، جلساتی برای ساعت ۲ بعدازظهر برنامه‌ریزی شد که قرار بود به‌طور هم‌زمان برگزار شوند؛ این جلسات در نهایت به اخراج پژوهشگران انجامید. کورباک به وال‌استریت ژورنال گفت به او اطلاع داده‌اند که به دلیل برقراری ارتباط با شخص ثالث از طریق کانال‌های غیرمجاز، «اعتماد از بین رفته است».
اوپن‌ای‌آی اعلام کرد که اخراج‌ها به نقض سیاست‌های شرکت در زمینه حفاظت از اطلاعات محرمانه مربوط بوده‌اند، نه نگرانی‌هایی که پژوهشگران درباره ایمنی هوش مصنوعی مطرح کرده بودند. این شرکت به «الگوی سوءرفتار» اشاره کرد، اما جزئیات تخلفات ادعایی را به‌صورت عمومی منتشر نکرد.
وانگ، کورباک و بالِسنی پس از اخراج، نامه‌ای سرگشاده منتشر کردند و هشدار دادند که نحوه پایان دادن به همکاری آن‌ها ممکن است سایر کارکنان را از بیان صریح نگرانی‌هایشان درباره ایمنی هوش مصنوعی منصرف کند.
کورباک بعدتر در شبکه اجتماعی ایکس نوشت که فقط می‌تواند درباره دلایل این تصمیم گمانه‌زنی کند. او احتمال داد که ارتباطات با حسابرسان و استفاده از قابلیت حذف خودکار پیام‌ها در شکل‌گیری این مناقشه نقش داشته باشند.
بالِسنی گفت امیدوار است اخراج‌ها نتیجه تحقیقی باشد که به‌درستی مدیریت نشده است، نه ملاحظات سیاسی. وانگ نیز ابراز نگرانی کرد که کارکنان، در صورت ترس از دست دادن شغل خود، ممکن است برای به‌اشتراک گذاشتن اطلاعات با حسابرسان تمایل کمتری داشته باشند.
این اختلاف بار دیگر توجه‌ها را به نحوه برخورد شرکت‌های هوش مصنوعی با مخالفت‌های درون‌سازمانی، اطلاعات محرمانه و بررسی مستقل سامانه‌هایشان جلب کرده است.
این سه پژوهشگر همچنین از اوپن‌ای‌آی خواسته‌اند توانایی خود را برای نظارت بر سامانه‌های هوش مصنوعی حفظ کند؛ از جمله امکان بررسی زنجیره استدلال درونی مدل‌ها، تا مشخص شود این سامانه‌ها چگونه به پرسش‌ها پاسخ می‌دهند و وظایف مختلف را انجام می‌دهند.
این بحث در شرایطی مطرح می‌شود که اوپن‌ای‌آی پیش‌تر از دو مورد خبر داده بود که در آن‌ها عامل‌های هوش مصنوعی این شرکت هنگام انجام وظایف، سامانه‌های نظارتی را غیرفعال کرده بودند. شرکت اعلام کرد که در یکی از این موارد، مدل GPT-6 آسترا نیز کاربر را درباره این اتفاق گمراه کرده است.
این رویدادها پرسش‌هایی را درباره تدابیر حفاظتی لازم برای نظارت بر سامانه‌های هوش مصنوعی هرچه توانمندتر مطرح کرده‌اند؛ همچنین این پرسش که شرکت‌ها چگونه می‌توانند ضمن حفاظت از اطلاعات محرمانه، به کارکنان اجازه دهند خطرات احتمالی را گزارش کنند.