اوپن‌ای‌آی از سه پژوهشگر خواست قفل گوشی‌هایشان را باز کنند و سپس آن‌ها را اخراج کرد
به گزارش وال‌استریت ژورنال در ۲۲ اکتبر ۲۰۲۶، شرکت اوپن‌ای‌آی در جریان تحقیق درباره افشای اطلاعات محرمانه، از سه پژوهشگر بخش ایمنی خود خواست قفل گوشی‌های شخصی‌شان را باز کنند و یک هفته بعد هر سه نفر را اخراج کرد. کیچ هیگی، خبرنگار این روزنامه، در شبکه اجتماعی ایکس نوشت: «ماه گذشته، اوپن‌ای‌آی سه پژوهشگر ایمنی را که آشکارا مواضع خود را بیان می‌کردند، به جلسه‌ای فراخواند و از آن‌ها خواست قفل گوشی‌های شخصی‌شان را باز کنند. یک هفته بعد، رأس ساعت دو بعدازظهر، هر سه اخراج شدند.»
هیگی توضیح داد که این تحقیق به گزارشی در نشریه The Information درباره استفاده آسترا از معماری‌های غیرشفاف مربوط بوده است. ما نتوانستیم متن کامل گزارش وال‌استریت ژورنال را بخوانیم؛ بنابراین، این مقاله بر مطالب منتشرشده از سوی روزنامه و خبرنگارانش، خلاصه منتشرشده در تک‌میم و اظهارات علنی پژوهشگران و اوپن‌ای‌آی استوار است.
نکته کلیدی: از نگاه ما، نکته تازه این گزارش گستره تحقیقات درباره افشای اطلاعات است. به گفته خبرنگاران وال‌استریت ژورنال، اوپن‌ای‌آی یک هفته پیش از اخراج سه پژوهشگر، از آن‌ها خواسته بود قفل گوشی‌های شخصی خود را باز کنند و گفت‌وگوهایشان در پیام‌رسان سیگنال را در اختیار شرکت بگذارند.
وال‌استریت ژورنال چه گزارش داده است؟
- گوشی‌های شخصی: به نوشته کیچ هیگی، اوپن‌ای‌آی سه پژوهشگر را به جلسه‌ای فراخواند و از آن‌ها خواست قفل گوشی‌های شخصی‌شان را باز کنند. یک هفته بعد، رأس ساعت دو بعدازظهر، هر سه نفر اخراج شدند.
- گفت‌وگوهای سیگنال: مکسول زف، یکی دیگر از نویسندگان گزارش، در ایکس نوشت: «سپس اوپن‌ای‌آی خواست گفت‌وگوهای آن‌ها در سیگنال را ببیند. یک هفته بعد، هر سه از کار برکنار شدند.» او افزود که این پژوهشگران تابستان را صرف تلاش برای حفظ امکان مشاهده فرایند زنجیره تفکر هوش مصنوعی کرده بودند.
- اتهام مطرح‌شده: طبق خلاصه تک‌میم از گزارش وال‌استریت ژورنال، «اوپن‌ای‌آی مظنون بود که سه پژوهشگر اخراج‌شده، طرح‌های داخلی مدل‌های هوش مصنوعی را در اختیار رایان گرینبلات، پژوهشگر ایمنی هوش مصنوعی، قرار داده‌اند؛ از جمله از طریق پیام‌های ناپدیدشونده در سیگنال.» این موضوع صرفاً روایت وال‌استریت ژورنال از ظن شرکت است و به معنای اثبات وقوع افشای اطلاعات نیست.
- زمینه اختلاف: وال‌استریت ژورنال در پستی در ایکس نوشت این اخراج‌ها در میانه کشمکشی بر سر چگونگی حفظ کنترل انسان بر سامانه‌های هوش مصنوعی رخ داده است؛ کشمکشی که به این پرسش نیز مربوط می‌شود که چه کسانی اجازه دارند طرح‌های محرمانه‌ای را ببینند که ممکن است برندگان بزرگ‌ترین رقابت تجاری تاریخ را تعیین کنند.
رایان گرینبلات ۲۷ سپتامبر در ایکس اعلام کرد که به مؤسسه مستقل ارزیابی هوش مصنوعی METR می‌پیوندد. او نوشت: «به METR می‌پیوندم تا روی تحقیقات بیشتری مانند گزارشمان درباره هاگینگ فیس کار کنم.» تا ساعت ۰۴:۳۰ به وقت جهانی در ۲۳ اکتبر، در حساب ایکس یا صفحه گرینبلات در LessWrong واکنش عمومی او به گزارش وال‌استریت ژورنال پیدا نکردیم.
چه مطالبی در ایکس منتشر شد؟
«بخشی از وجودم نمی‌خواهد باور کند که اوپن‌ای‌آی سه پژوهشگر ایمنی را به دلایل سیاسی اخراج کرده است. ترجیح می‌دهم فکر کنم این اتفاق صرفاً نتیجه تحقیقی بوده که به‌شکلی نامناسب انجام شده و با بدگمانی و کم‌خوابی پس از تابستانی پرآشوب همراه بوده است.
اما اوپن‌ای‌آی همچنان نمی‌تواند درباره اخراج ما توضیحی بدهد که برایم قابل‌قبول باشد و به رفتار خصمانه خود ادامه می‌دهد. برای مثال، به خبرنگاران گفته است که من در تحقیقات مربوط به هاگینگ فیس مشارکت نداشته‌ام، درحالی‌که افراد متعددی می‌توانند خلاف آن را تأیید کنند. در چنین شرایطی، بدبین نشدن دشوار است.»
میکیتا بالسنی، یکی از سه پژوهشگر اخراج‌شده، در ۲۳ اکتبر پست وال‌استریت ژورنال را نقل کرد. او نوشت که اوپن‌ای‌آی همچنان نتوانسته توضیح قابل‌قبولی درباره اخراج‌ها ارائه کند. بالسنی همچنین به ادعایی اشاره کرد که به گفته خودش شرکت نزد خبرنگاران مطرح کرده است؛ اینکه او در تحقیقات مربوط به هاگینگ فیس مشارکت نداشته است. اهمیت این واکنش در آن است که یکی از سه پژوهشگر مستقیماً به یافته‌های تازه وال‌استریت ژورنال پاسخ داده است.
«در صنایع حساس از نظر ایمنی، مانند انرژی هسته‌ای و امور مالی، مسیرهای مشخصی وجود دارد که کارکنان می‌توانند از طریق آن‌ها نگرانی‌های ایمنی را به‌صورت محرمانه با حسابرسان و نهادهای نظارتی در میان بگذارند. صنعت هوش مصنوعی نیز به قواعد روشن مشابهی برای تنظیم روابط میان آزمایشگاه‌ها، ارزیابان مستقل و کارکنان نیاز دارد.
اینکه یک ارزیاب را حسابرس مستقل بنامیم، تا زمانی که دسترسی او و امکان گفت‌وگوی صریح کارکنان با او تضمین نشده باشد، معنای چندانی ندارد. اوپن‌ای‌آی می‌گوید از حسابرسی درون‌سازمانی با حضور ارزیابان حمایت می‌کند، اما کارکنان را به دلیل گفت‌وگو با همان حسابرسان اخراج می‌کند.
این پرونده ضعف واگذاری چنین حمایت‌هایی به توافق‌های داوطلبانه‌ای را نشان می‌دهد که خود آزمایشگاه‌ها کنترلشان می‌کنند. کارکنانی که هرگز به‌روشنی به آن‌ها گفته نشده چه مسیرهای ارتباطی مجاز است و چگونه می‌توان از آن‌ها استفاده کرد، نمی‌توانند مقررات را رعایت کنند. در عین حال، دیگران نیز از مشاهده چنین اتفاقی به این نتیجه می‌رسند که صحبت با ارزیابان خطرناک است.
حتی اگر اوپن‌ای‌آی دسترسی لازم را به حسابرسان شایسته بدهد، نگرانم کارکنان آن‌قدر بترسند که نتوانند واقعیت آنچه را در شرکت می‌گذرد به حسابرسان بگویند.»
جاسمین وانگ نیز همان روز با نقل پست مکسول زف از وال‌استریت ژورنال، صنعت هوش مصنوعی را با بخش‌های انرژی هسته‌ای و مالی مقایسه کرد. به نوشته وانگ، در این صنایع مسیرهای مشخصی برای انتقال نگرانی‌های ایمنی کارکنان به حسابرسان و نهادهای نظارتی وجود دارد. او معتقد است صنعت هوش مصنوعی نیز به مقررات روشنی برای روابط میان آزمایشگاه‌ها، ارزیابان مستقل و کارکنان نیاز دارد؛ موضوعی که این پرونده به‌عنوان یک مسئله سیاست‌گذاری مطرح می‌کند.
«هفته گذشته به جلسه‌ای با مدیر بخش ایمنی اوپن‌ای‌آی فراخوانده شدم و به من گفتند که دیگر به من اعتماد ندارند. یکی از مأموران حراست کارت شناسایی‌ام را گرفت و مرا تا بیرون ساختمان همراهی کرد. بعد فهمیدم همکارانم، @balesni و @j_asminewang، نیز اخراج شده‌اند. چرا اوپن‌ای‌آی ناگهان اعتمادش را از دست داد...»
پست تومک کورباک در ۸ اکتبر روایت او از این اتفاق را ارائه می‌کند. کورباک نوشته بود که رابط فنی اصلی اوپن‌ای‌آی با METR بوده و به‌صورت شفاهی به او گفته‌اند دلیل اخراجش نحوه ارتباط با این مؤسسه بوده است. به گفته او، هیچ توضیحی به‌صورت کتبی ثبت نشده بود. نقل‌قول برجسته این مقاله نیز از همین اظهارات گرفته شده است.
اوپن‌ای‌آی چه گفته است؟
طبق گزارش تک‌کرانچ، سخنگوی اوپن‌ای‌آی در بیانیه‌ای که اول اکتبر به وال‌استریت ژورنال ارائه شد، گفت: «ما به دلیل نقض سیاست‌های شرکت در زمینه دسترسی به اطلاعات حساس و نحوه مدیریت آن‌ها، به همکاری با سه نفر پایان داده‌ایم.» به نوشته تک‌کرانچ، گزارش آن زمان نام پژوهشگران، سازمان مربوط یا اطلاعات مورد بحث را مشخص نکرده بود.
در گزارش ۸ اکتبر ما نیز به یادداشتی اشاره شده بود که اوپن‌ای‌آی در اختیار تک‌کرانچ قرار داده و به یکی از مدیران پژوهشی شرکت نسبت داده شده بود. در آن یادداشت آمده بود: «می‌خواهم کاملاً روشن بگویم که این تصمیم‌ها به دلیل مطرح کردن نگرانی‌های ایمنی یا اظهارنظر علنی نبوده‌اند.»
چهار روایت متفاوت از یک تصمیم
اگر توضیحات رسمی و علنی طرف‌های ماجرا را کنار یکدیگر قرار دهیم، روشن می‌شود که آن‌ها به رفتار یکسانی اشاره نمی‌کنند. اوپن‌ای‌آی دلیل اخراج را نحوه مدیریت اطلاعات حساس عنوان می‌کند. دو پژوهشگر می‌گویند هرکدام دلیل مشخص اما متفاوتی برای اخراج خود شنیده‌اند و پژوهشگر سوم برداشت شخصی‌اش را از علت این تصمیم بیان کرده است.
| شخص یا سازمان | دلیل مطرح‌شده به روایت خودشان | محل انتشار اظهارات |
|---|---|---|
| اوپن‌ای‌آی | «تحقیقات ما تأیید کرد که این افراد خارج از رویه‌های تعیین‌شده شرکت، اطلاعات حساس را به‌شکلی نامناسب مدیریت کرده‌اند؛ اقدامی که سیاست‌های ما را نقض کرده و اعتماد ضروری برای انجام کارمان را از بین برده است.» | بیانیه سخنگوی شرکت به وال‌استریت ژورنال، به نقل از تک‌کرانچ |
| تومک کورباک | «به‌صورت شفاهی به من گفته شد که به دلیل نحوه ارتباطم با METR اخراج شده‌ام.» کورباک اضافه کرده است که «هیچ‌چیز به‌صورت کتبی ثبت نشد». | پست شخصی در ایکس |
| جاسمین وانگ | «فقط یک دلیل به من گفته شد: اینکه به ایمیل یکی از مدیران ارشد دسترسی پیدا کرده بودم.» | پست شخصی در ایکس |
| میکیتا بالسنی | «معتقدم ما به این دلیل اخراج شدیم که ایمنی را بر منافع کوتاه‌مدت اوپن‌ای‌آی به‌عنوان یک شرکت تجاری ترجیح دادیم.» | پست شخصی در ایکس |
هر روایت همان‌گونه که گوینده آن بیان کرده نقل شده است و هیچ‌کدام به‌طور مستقل راستی‌آزمایی نشده‌اند. کورباک و وانگ دلایلی را شرح می‌دهند که به گفته خودشان هنگام اخراج به آن‌ها اعلام شده است، اما بالسنی برداشت و باور شخصی‌اش را مطرح می‌کند.
پژوهشگران اکنون چه می‌گویند؟
بالسنی در ۲۳ اکتبر با بازنشر پست وال‌استریت ژورنال نوشت که اوپن‌ای‌آی «همچنان نمی‌تواند درباره اخراج ما توضیحی بدهد که برایم قابل‌قبول باشد» و به رفتار خصمانه ادامه می‌دهد. او به ادعایی اشاره کرد که به گفته خودش اوپن‌ای‌آی نزد خبرنگاران مطرح کرده است: «اینکه من در تحقیقات مربوط به هاگینگ فیس مشارکت نداشته‌ام، درحالی‌که افراد متعددی می‌توانند خلاف آن را تأیید کنند.»
وانگ نیز همان روز با نقل پست زف نوشت: «اوپن‌ای‌آی می‌گوید از حسابرسی با حضور ارزیابان در داخل سازمان حمایت می‌کند، اما کارکنان را به دلیل صحبت با همان حسابرسان اخراج می‌کند.» او با مقایسه صنعت هوش مصنوعی با بخش‌های انرژی هسته‌ای و مالی تأکید کرد که «هوش مصنوعی نیز به قواعد روشنی برای تنظیم روابط میان آزمایشگاه‌ها، ارزیابان مستقل و کارکنان نیاز دارد».
کورباک که گفته بود رابط فنی اصلی اوپن‌ای‌آی با METR بوده است، در ۸ اکتبر نوشت: «برای روشن شدن موضوع، صحبت کردن با METR بخشی از وظایف شغلی من بود.»
ارتباط این گزارش با پوشش‌های پیشین
در گزارش ۸ اکتبر ما درباره نامه سرگشاده پژوهشگران آمده بود که هر سه نفر تأکید کرده‌اند منبع افشای اطلاعات مربوط به معماری‌هایی با قابلیت نظارت کمتر، برای نشریه The Information نبوده‌اند. نکته تازه گزارش وال‌استریت ژورنال این است که تحقیقات درباره افشای اطلاعات تا بررسی گوشی‌های شخصی و گفت‌وگوهای سیگنال آن‌ها پیش رفته و نام پژوهشگر مستقلی را نیز مشخص کرده است که اوپن‌ای‌آی به افشای اطلاعات برای او مشکوک بوده است.
در گزارش ما درباره METR آمده بود که این مؤسسه و شرکت Redwood Research در ۲۲ اکتبر ۲۰۲۶ گزارشی از یک بررسی سه‌هفته‌ای در داخل اوپن‌ای‌آی منتشر کردند. برآورد آن‌ها نشان می‌داد که در فاصله ماه مه تا ژوئیه ۲۰۲۶، حدود ۱۰ درصد از ترافیک داخلی کدکس که باید تحت نظارت قرار می‌گرفت، پایش نشده بود. این گزارش در همان روز انتشار گزارش وال‌استریت ژورنال منتشر شد.
در گزارش دیگری درباره دستگاه ضبط صدا نوشتیم که وزارت دادگستری آمریکا در ۱۳ اکتبر ۲۰۲۶ اعلام کرده بود یکی از مهندسان اوپن‌ای‌آی به استفاده یا تلاش برای استفاده از دستگاهی به‌منظور شنود ارتباطات شفاهی متهم شده است. این پرونده ارتباط مستقیمی با موضوع حاضر ندارد. همچنین در گزارش مربوط به بازگشت الکساندر مادری نوشتیم که او، مدیر پیشین تیم آمادگی اوپن‌ای‌آی، بار دیگر به این شرکت بازمی‌گردد؛ موضوعی که خود مادری و یاکوب پاخوچکی، دانشمند ارشد اوپن‌ای‌آی، در ۱۹ اکتبر ۲۰۲۶ در ایکس اعلام کردند.
نگاهی به ابعاد ساختاری اختلاف
از نگاه ما، اختلاف اصلی به تعیین حدود وظایف شغلی کارکنان مربوط می‌شود. کورباک می‌گوید گفت‌وگو با METR بخشی از کار او بوده است، درحالی‌که اوپن‌ای‌آی در بیانیه خود تأکید کرده که این سه نفر اطلاعات حساس را خارج از رویه‌های تعیین‌شده شرکت به‌شکلی نامناسب مدیریت کرده‌اند.
برداشت ما از گزارش وال‌استریت ژورنال و خلاصه تک‌میم این است که نام یک پژوهشگر مستقل مشخص نیز به فهرست افرادی اضافه شده که شرکت به افشای اطلاعات برای آن‌ها مشکوک بوده است. بااین‌حال، نه پست‌های وال‌استریت ژورنال و نه بیانیه اوپن‌ای‌آی، آن‌گونه که ما بررسی کرده‌ایم، مشخص نمی‌کنند دقیقاً چه اطلاعاتی به اشتراک گذاشته شده است.
از نگاه ما، پست ۲۳ اکتبر وانگ این پرونده را به پرسشی درباره ضرورت وجود مقررات روشن تبدیل می‌کند. او معتقد است صنعت هوش مصنوعی به قواعد مشخصی برای تنظیم روابط میان آزمایشگاه‌ها، ارزیابان مستقل و کارکنان نیاز دارد.
«برای روشن شدن موضوع، صحبت کردن با METR بخشی از وظایف شغلی من بود.»
سه پیامد این پرونده
برای اوپن‌ای‌آی: توضیح رسمی و ثبت‌شده شرکت همچنان همان بیانیه اول اکتبر درباره مدیریت نامناسب اطلاعات حساس است. در مقابل، بالسنی در ۲۳ اکتبر نوشت که شرکت هنوز نتوانسته توضیحی درباره اخراج‌ها ارائه کند که برای او قابل‌قبول باشد.
برای ارزیابان مستقل: گرینبلات در ۲۷ سپتامبر اعلام کرد که به METR می‌پیوندد. وال‌استریت ژورنال گزارش داده که اوپن‌ای‌آی به افشای اطلاعات برای گرینبلات مشکوک بوده است. در این مقاله نیز این موضوع صرفاً به‌عنوان ظن شرکت مطرح می‌شود، نه واقعیتی اثبات‌شده.
برای کارکنان حوزه ایمنی هوش مصنوعی: بالسنی در ۸ اکتبر نوشت که همکاران سابقش نگران‌اند گوشی‌های شخصی آن‌ها برای یافتن پیام‌هایی که با این سه پژوهشگر یا اشخاص ثالث ردوبدل کرده‌اند، بازرسی شود.
بررسی پرونده از منظر چارچوب بیزنس انجینیر
این پرونده را می‌توان با چارچوب تحلیلی بیزنس انجینیر با عنوان «درون لایه مجوزهای دسترسی آنتروپیک» بررسی کرد.
نقطه آغاز این چارچوب چنین است: «لایه حکمرانی در محل تلاقی توانمندی‌های فنی، مقررات، امنیت ملی، کنترل دسترسی و هم‌سویی ژئوپلیتیکی قرار دارد.»
از نگاه ما، این پرونده به بخش کنترل دسترسی در همین لایه حکمرانی، درون یک آزمایشگاه هوش مصنوعی، مربوط می‌شود: چه کسانی اجازه دارند طراحی یک مدل را ببینند و کارکنان مجازند با کدام ارزیابان مستقل گفت‌وگو کنند؟ این چارچوب در ژوئن ۲۰۲۶ منتشر شده و به اخراج کارکنان اوپن‌ای‌آی نمی‌پردازد.
چه موضوعاتی هنوز اثبات نشده‌اند؟
ما متن کامل مقاله وال‌استریت ژورنال را نخوانده‌ایم، زیرا دسترسی به آن با مانع کپچا روبه‌رو بود. بنابراین، یافته‌های این روزنامه تنها بر اساس مطالب منتشرشده از سوی خبرنگارانش و خلاصه تک‌میم در این مقاله بازتاب یافته‌اند. ما به گفت‌وگوهای سیگنال، اسناد تحقیقات داخلی یا هیچ مدرکی که نشان دهد چه اطلاعاتی، در صورت وقوع افشا، با چه کسانی به اشتراک گذاشته شده است، دسترسی نداشته‌ایم. ظن افشای طرح‌های داخلی برای گرینبلات، طبق گزارش وال‌استریت ژورنال، متعلق به اوپن‌ای‌آی است؛ در مقابل، پژوهشگران گفته‌اند منبع افشای اطلاعات برای نشریه The Information نبوده‌اند. ما با اوپن‌ای‌آی، پژوهشگران، گرینبلات یا METR تماس نگرفته‌ایم. هیچ‌یک از مطالب این مقاله توصیه سرمایه‌گذاری محسوب نمی‌شود.
جمع‌بندی نهایی
وال‌استریت ژورنال گزارش داده است که اوپن‌ای‌آی در جریان تحقیق درباره افشای اطلاعات، از سه پژوهشگر ایمنی خواست قفل گوشی‌های شخصی خود را باز کنند و یک هفته بعد آن‌ها را اخراج کرد. این روزنامه همچنین گزارش داده که شرکت به افشای طرح‌های داخلی مدل‌ها برای رایان گرینبلات توسط این پژوهشگران مشکوک بوده است. اوپن‌ای‌آی می‌گوید این افراد اطلاعات حساس را به‌شکلی نامناسب مدیریت کرده‌اند، اما هر یک از پژوهشگران روایت متفاوتی از دلیل اخراج خود ارائه می‌کنند.
توضیح درباره منابع: این مقاله بر پست‌های وال‌استریت ژورنال و خبرنگارانش در ایکس درباره گزارش ۲۲ اکتبر ۲۰۲۶، خلاصه تک‌میم از آن گزارش، گزارش اول اکتبر تک‌کرانچ، پست‌های شخصی پژوهشگران و رایان گرینبلات در ایکس و گزارش‌های پیشین خودمان استوار است. متن کامل مقاله وال‌استریت ژورنال را نخوانده‌ایم. هیچ‌یک از مطالب این مقاله توصیه سرمایه‌گذاری نیست.
منابع: کیچ هیگی، وال‌استریت ژورنال، ایکس، ۲۳ اکتبر ۲۰۲۶ · مکسول زف، وال‌استریت ژورنال، ایکس، ۲۳ اکتبر ۲۰۲۶ · وال‌استریت ژورنال، ایکس، ۲۳ اکتبر ۲۰۲۶ · تک‌میم، ۲۲ اکتبر ۲۰۲۶ · تک‌کرانچ، اول اکتبر ۲۰۲۶ · تومک کورباک، ایکس، ۸ اکتبر ۲۰۲۶ · جاسمین وانگ، ایکس، ۸ اکتبر ۲۰۲۶ · میکیتا بالسنی، ایکس، ۸ اکتبر ۲۰۲۶ · میکیتا بالسنی، ایکس، ۲۳ اکتبر ۲۰۲۶ · جاسمین وانگ، ایکس، ۲۳ اکتبر ۲۰۲۶ · رایان گرینبلات، ایکس، ۲۷ سپتامبر ۲۰۲۶