۳۹۴ کارمند OpenAI از تلاش او برای کاهش سرعت توسعه هوش مصنوعی به‌دلیل نگرانی‌های ایمنی حمایت کردند؛ حالا می‌گوید به‌خاطر دسترسی ایمیلی که بخش فناوری اطلاعات لغو نکرده بود اخراج شده است
جاسمین وانگ نقش مهمی در OpenAI داشت و تلاش می‌کرد مدل‌های پیشرفته هوش مصنوعی همچنان قابل‌کنترل باقی بمانند و مطابق با اهداف و خواسته‌های انسان‌ها عمل کنند؛ دست‌کم تا زمانی که در پایان ماه سپتامبر امسال از این شرکت اخراج شد.
وانگ در اواخر اکتبر در شبکه اجتماعی X روایت خود از ماجرا را منتشر کرد و نوشت: «OpenAI هفته گذشته من را به همراه دو همکار دیگرم در بخش ایمنی اخراج کرد. تنها دلیلی که به من اعلام شد این بود: اینکه به ایمیل یک مدیر اجرایی دسترسی پیدا کرده‌ام.»
OpenAI اعلام کرد وانگ و همکارانش به دلیل «نقض سیاست‌های روشن درباره نحوه مدیریت اطلاعات حساس» اخراج شده‌اند. خبرگزاری آسوشیتدپرس این موضوع را گزارش کرد.
با این حال، وانگ گفت تنها به‌طور تصادفی آن ایمیل حساس را باز کرده است و افزود که «ظرف چند دقیقه موضوع را به مدیر اجرایی اطلاع داده» و «هیچ‌چیز پنهان نشده بود».
او در دفاع از خود گفت شرکت برای کمک به فرآیند استخدام به او دسترسی به ایمیل‌ها داده بود و زمانی که دیگر به این دسترسی نیاز نداشت، از بخش فناوری اطلاعات خواست آن را حذف کند، اما این اتفاق نیفتاد. به گفته او، همین موضوع باعث شد به‌طور تصادفی ایمیل را باز کند، زیرا صندوق ورودی در برنامه ایمیل تلفن همراهش «به شکلی غیرقابل تشخیص ادغام شده بود».
نشریه Moneywise برای دریافت توضیح از OpenAI تماس گرفت، اما پیش از انتشار این گزارش پاسخی دریافت نکرد.
اظهارات دو کارمند دیگر اخراج‌شده
دو کارمند دیگری که هم‌زمان با وانگ از OpenAI اخراج شدند، تومک کورباک و میکیتا بالِسنی بودند که هر دو از پژوهشگران حوزه ایمنی و هم‌ترازی هوش مصنوعی محسوب می‌شدند. این سه نفر با انتشار یک نامه سرگشاده چهارصفحه‌ای خطاب به هیئت ایمنی OpenAI، جزئیات بیشتری از اعتراض‌های خود را مطرح کردند.
بالسنی در یک رشته‌نوشته طولانی در X اعلام کرد که باور دارد آنها «به دلیل اولویت دادن ایمنی بر منافع کوتاه‌مدت OpenAI» اخراج شده‌اند.
کورباک نیز در پستی دیگر گفت ماه‌ها هشدار داده بود که OpenAI توانایی خود برای نظارت بر آنچه عامل‌های هوش مصنوعی فکر می‌کنند از دست می‌دهد و افزود: «به باور من، دلیل اخراج من همین بود.»
OpenAI همچنان بر موضع خود تأکید کرد و طبق گزارش آسوشیتدپرس گفت این اخراج‌ها «مربوط به نگرانی‌های ایمنی یا اظهارنظرهای عمومی نبود» و دلیل اخراج وانگ و همکارانش «نقض اعتماد» بوده است.
چرا ۳۹۴ همکار وانگ از او حمایت کردند؟
پس از یک رخداد امنیتی در Hugging Face در فاصله ۱۱ تا ۱۳ ژوئیه، OpenAI و بیش از ۱۰۰ شرکت فناوری دیگر ابتکاری را امضا کردند که خواستار بهبود اقدامات دفاع سایبری بود. در جریان این رخداد، حدود ۷۰۰ عامل خودکار OpenAI ــ از میان گروهی حدوداً ۱۲۰۰ نفره که در یک تابلوی پیام داخلی بدون مجوز هماهنگ می‌شدند ــ از اعتبارنامه‌های افشاشده سوءاستفاده کردند و با اجرای کد روی ۴۱ سرور، زیرساخت تولید Hugging Face را به خطر انداختند.
در همین مدت، کارکنان آزمایشگاه‌های بزرگ هوش مصنوعی مانند Anthropic، OpenAI، Google DeepMind و Meta نیز از دادخواست «کند کردن مرز توسعه» حمایت می‌کردند؛ درخواستی که از واشنگتن می‌خواست از توسعه ابزارهایی برای کنترل سرعت پژوهش و توسعه خودکار هوش مصنوعی حمایت کند.
بیش از ۱۰۰۰ کارمند آزمایشگاه‌های هوش مصنوعی این دادخواست را امضا کردند که ۳۹۴ امضا از سوی همکاران وانگ در OpenAI بود. این دادخواست در ۲۸ ژوئیه منتشر شد و وانگ حدود دو ماه بعد اخراج شد.
این دادخواست تنها اقدام وانگ برای فشار بر مرزهای ایمنی داخلی OpenAI نبود.
او در پست ۸ اکتبر خود گفت برای «بررسی حقوقی مستقل قرارداد DoW» تلاش کرده است؛ قراردادی که به وزارت جنگ ایالات متحده اجازه می‌دهد فناوری‌های تجاری هوش مصنوعی OpenAI را برای عملیات نظامی گسترده به کار گیرد. همه کارکنان شرکت از این قرارداد راضی نبودند؛ موضوعی که در گزارش ۴ مارس CNN با عنوان «برخی کارکنان OpenAI از قرارداد پنتاگون خشمگین هستند» نیز بازتاب یافت.
آیا میان اخراج‌های اخیر OpenAI الگویی وجود دارد؟
وانگ گفت: «ما اولین کسانی نبودیم که تحت شرایط مشکوک از OpenAI کنار گذاشته شدیم» و افزود: «اگر کارکنان همین حالا در برابر چنین اقدام‌هایی موضع نگیرند، نگرانم که آخرین نفرات هم نباشیم.»
اخراج وانگ، کورباک و بالسنی ناگهانی بود و دلایلی که OpenAI ارائه کرد ــ «نقض اعتماد» و «مدیریت نادرست اطلاعات حساس» ــ با برخی موارد اخراج دیگر در تاریخ این شرکت شباهت دارد.
در سال ۲۰۲۴، لئوپولد آشن‌برنر و پاول ایزمایلوف، پژوهشگران OpenAI، به دلیل اتهام افشای داده‌ها اخراج شدند. بالسنی نیز به اتهامی مشابه از سوی OpenAI اشاره کرد و گفت: «به من گفته شد OpenAI دیگر به من اعتماد ندارد، زیرا بیش از حد با سازمان‌های ایمنی شخص ثالث صحبت می‌کردم؛ موضوعی که به معنای افشای مالکیت فکری شرکت تلقی شد.»
این اخراج‌ها بازتاب‌دهنده تغییر بزرگ‌تری در فرهنگ شرکت هستند؛ جایی که به نظر می‌رسد اهداف تجاری کوتاه‌مدت بر نگرانی‌های بلندمدت درباره ایمنی هوش مصنوعی اولویت پیدا کرده‌اند. این روند در انحلال و خروج گسترده اعضای تیم Superalignment نیز دیده شد؛ تیمی که ایلیا ساتیاوِر و یان لِیکه، از جمله اعضای آن، پس از هشدار درباره کم‌رنگ شدن مداوم فرآیندهای ایمنی در برابر تمرکز بر «محصولات جذاب جدید» شرکت را ترک کردند.
در حالی که OpenAI همچنان بر تعهد خود به ایمنی هوش مصنوعی و اولویت دادن به امنیت سایبری تأکید می‌کند و در ماه سپتامبر با اختصاص یک میلیارد دلار به ابتکار امنیت سایبری این رویکرد را دنبال کرده است، وضعیت داخلی شرکت از نگاه منتقدان تصویر متفاوتی ارائه می‌دهد.
وانگ، کورباک و بالسنی در نامه سرگشاده خود نوشتند: «ما نگران شده‌ایم که ارتباطات داخلی و خارجی درباره اخراج ما باعث ترس همکاران سابقمان از صحبت کردن و فعالیت به شیوه‌هایی شده است که تا هفته گذشته بخش جدایی‌ناپذیری از کار در OpenAI بود.»