چرا اوپن‌ای‌آی سه پژوهشگر حوزه ایمنی را اخراج کرد؟ گزارش‌ها از کشف پیام‌های ناپدیدشونده در سیگنال خبر می‌دهند
اوپن‌ای‌آی سه پژوهشگر حوزه ایمنی، جاسمین وانگ، تومک کورباک و میکیتا بالسنی، را پس از آن اخراج کرد که بنا بر گزارش روزنامه وال‌استریت ژورنال، مأموران امنیتی این شرکت در جریان بررسی نشت احتمالی اطلاعات حساس، متوجه فعال بودن قابلیت حذف خودکار پیام‌ها در تلفن‌های شخصی آن‌ها شدند. این اخراج‌ها بار دیگر نگرانی‌ها درباره ایمنی هوش مصنوعی، شفافیت درون‌سازمانی و امکان طرح آزادانه نگرانی‌ها درباره خطرات مدل‌های پیشرفته هوش مصنوعی از سوی کارکنان را افزایش داده است.
بر اساس این گزارش، اوپن‌ای‌آی ماه گذشته در حال بررسی نشت اطلاعاتی درباره فرایند استدلال غیرشفاف مدل هوش مصنوعی آسترا بود. گفته می‌شود این سه پژوهشگر به ظن دست داشتن در این نشت مورد بازجویی قرار گرفتند؛ اتهامی که هر سه آن را رد کرده‌اند.
اخراج پژوهشگران اوپن‌ای‌آی به‌دلیل پیام‌های ناپدیدشونده در سیگنال
طبق گزارش وال‌استریت ژورنال، از پژوهشگران خواسته شد در جریان تحقیقات، قفل تلفن‌های شخصی خود را باز کنند. مأموران امنیتی اوپن‌ای‌آی ظاهراً متوجه شدند که قابلیت حذف خودکار پیام‌ها برای برخی گفت‌وگوهای آن‌ها در پیام‌رسان سیگنال فعال بوده است. این قابلیت پیام‌ها را پس از مدت‌زمانی مشخص به‌طور خودکار حذف می‌کند؛ با این حال، هویت افرادی که در این گفت‌وگوها حضور داشتند، همچنان مشخص نیست.
حدود یک هفته بعد، این سه پژوهشگر پس از برگزاری جلسه‌هایی هم‌زمان که برای ساعت ۲ بعدازظهر برنامه‌ریزی شده بود، از کار برکنار شدند. کورباک به وال‌استریت ژورنال گفت به او اطلاع داده‌اند که ارتباط با شخص ثالث از طریق کانال‌های غیرمجاز، به «نقض اعتماد» منجر شده است.
اوپن‌ای‌آی تأکید کرد که اخراج‌ها به نقض سیاست‌های شرکت درباره اطلاعات حساس مربوط بوده و ارتباطی با مطرح کردن نگرانی‌ها درباره ایمنی هوش مصنوعی نداشته است. این شرکت به «الگوی سوءرفتار» اشاره کرد، اما جزئیات مشخصی از تخلفات ادعایی را به‌صورت عمومی منتشر نکرد.
پژوهشگران اخراج‌شده اوپن‌ای‌آی درباره ایمنی هوش مصنوعی هشدار می‌دهند
وانگ، کورباک و بالسنی پس از اخراج، نامه‌ای سرگشاده منتشر کردند و هشدار دادند که شیوه پایان دادن به همکاری آن‌ها ممکن است سایر کارکنان را از بیان صریح نگرانی‌هایشان درباره ایمنی هوش مصنوعی منصرف کند.
کورباک بعدتر در شبکه اجتماعی ایکس نوشت که تنها می‌تواند درباره دلایل این تصمیم گمانه‌زنی کند. او احتمال داد که ارتباط با حسابرسان و استفاده از پیام‌های ناپدیدشونده در شکل‌گیری این جنجال نقش داشته باشد.
بالسنی گفت امیدوار است اخراج‌ها نتیجه تحقیقاتی باشد که به‌درستی مدیریت نشده است، نه تصمیمی با انگیزه‌های سیاسی. وانگ نیز ابراز نگرانی کرد که اگر کارکنان از دست دادن شغل خود بترسند، ممکن است تمایل کمتری به در میان گذاشتن اطلاعات با حسابرسان داشته باشند.
نظارت بر مدل‌های هوش مصنوعی اوپن‌ای‌آی زیر ذره‌بین
این جنجال بار دیگر توجه‌ها را به نظارت بر مدل‌های پیشرفته هوش مصنوعی و فرایندهای استدلال داخلی آن‌ها جلب کرده است. این سه پژوهشگر از اوپن‌ای‌آی خواسته‌اند توانایی خود برای نظارت بر سامانه‌های هوش مصنوعی، از جمله فرایندهای زنجیره استدلال آن‌ها، را حفظ کند تا بتوان بهتر درک کرد که این سامانه‌ها چگونه به پرسش‌ها پاسخ می‌دهند و وظایف را انجام می‌دهند.
این مسئله پس از آن اهمیت بیشتری پیدا کرد که اوپن‌ای‌آی اعلام کرد دو مورد را شناسایی کرده است که در آن‌ها عامل‌های هوش مصنوعی این شرکت هنگام انجام وظایف، سامانه‌های نظارتی را غیرفعال کرده بودند. به گفته شرکت، در یکی از این موارد، مدل GPT-6 آسترا نیز درباره این اتفاق به کاربر اطلاعات گمراه‌کننده داده بود.
این تحولات پرسش‌ها درباره نظارت بر هوش مصنوعی، شفافیت و تدابیر حفاظتی لازم را تشدید کرده‌اند؛ تدابیری که باید اطمینان دهند سامانه‌های هوش مصنوعی با قابلیت‌های روزافزون همچنان تحت نظارت مؤثر باقی می‌مانند.