۳۹۴ کارمند OpenAI از تلاش او برای کاهش سرعت توسعه هوش مصنوعی به‌منظور حفظ ایمنی حمایت کردند؛ حالا می‌گوید به‌دلیل دسترسی ایمیلی که بخش فناوری اطلاعات قطع نکرده بود، اخراج شده است
نویسنده: پیس لانگ
جاسمین وانگ در شرکت OpenAI نقشی کلیدی در ایمن‌سازی هوش مصنوعی داشت. وظیفه او کمک به اطمینان از این بود که مدل‌های پیشرفته هوش مصنوعی همچنان تحت کنترل انسان باقی بمانند و مطابق با اهداف و خواسته‌های انسانی عمل کنند. اما فعالیت او در این شرکت در اواخر سپتامبر امسال با اخراجش پایان یافت.
وانگ اوایل اکتبر با انتشار پستی در شبکه اجتماعی ایکس روایت خود را از ماجرا مطرح کرد و نوشت: «هفته گذشته OpenAI من و دو نفر از همکارانم در حوزه ایمنی را اخراج کرد. تنها دلیلی که به من اعلام شد، این بود که به ایمیل یکی از مدیران ارشد دسترسی پیدا کرده‌ام.»
با این حال، به گزارش آسوشیتدپرس، OpenAI اعلام کرده است که وانگ و همکارانش به دلیل «نقض سیاست‌های روشن شرکت درباره نحوه برخورد با اطلاعات حساس» اخراج شده‌اند.
وانگ در مقابل تأکید کرد که ایمیل حساس مورد بحث را صرفاً به‌اشتباه باز کرده است. او گفت «ظرف چند دقیقه موضوع را به مدیر مربوطه اطلاع داده» و «هیچ بخشی از این ماجرا پنهان نشده است».
او در دفاع از خود توضیح داد که شرکت برای کمک به فرایند استخدام، دسترسی به ایمیل‌های آن مدیر را در اختیارش قرار داده بود. پس از آنکه دیگر نیازی به این دسترسی نداشت، از بخش فناوری اطلاعات خواست آن را قطع کند، اما این درخواست اجرا نشد. به گفته وانگ، صندوق‌های ایمیل در برنامه ایمیل تلفن همراهش به شکلی با یکدیگر ادغام شده بودند که امکان تشخیص آنها از هم وجود نداشت و همین موضوع باعث شد ایمیل مورد نظر را ناخواسته باز کند.
وب‌سایت مانی‌وایز برای دریافت توضیح با OpenAI تماس گرفت، اما تا زمان انتشار این گزارش پاسخی دریافت نکرد.
دو کارمند دیگری که اخراج شدند چه گفتند؟
دو کارمند دیگری که هم‌زمان با وانگ از OpenAI اخراج شدند، تومک کورباک و میکیتا بالسنی بودند. هر دو در زمینه ایمنی و هم‌راستاسازی هوش مصنوعی با اهداف انسانی پژوهش می‌کردند. آنها همراه با وانگ نامه‌ای سرگشاده و چهارصفحه‌ای خطاب به هیئت مسئول ایمنی OpenAI منتشر کردند و در آن جزئیات بیشتری از اعتراض‌های خود را شرح دادند.
بالسنی در مجموعه‌ای طولانی از پست‌های خود در ایکس نوشت که معتقد است آنها «به دلیل اولویت دادن به ایمنی در برابر منافع کوتاه‌مدت OpenAI اخراج شده‌اند».
کورباک نیز در واکنش به این ماجرا گفت که ماه‌ها درباره کاهش توانایی OpenAI در نظارت بر آنچه عامل‌های هوش مصنوعی در فرایند تصمیم‌گیری خود انجام می‌دهند، هشدار داده بود. او افزود: «معتقدم دلیل اخراجم همین بود.»
با وجود این اظهارات، OpenAI همچنان بر موضع خود پافشاری می‌کند. به گزارش آسوشیتدپرس، این شرکت اعلام کرده که اخراج‌ها «ارتباطی با نگرانی‌های ایمنی یا بیان علنی انتقادها نداشته» و وانگ و همکارانش به دلیل «نقض اعتماد» برکنار شده‌اند.
۳۹۴ همکار وانگ از چه طرحی حمایت کردند و چرا؟
پس از یک حادثه امنیتی در پلتفرم هاگینگ فیس که بین ۱۱ تا ۱۳ ژوئیه رخ داد، OpenAI به همراه بیش از ۱۰۰ شرکت فناوری دیگر به ابتکاری مشترک پیوستند که خواستار تقویت تدابیر دفاع سایبری بود. در جریان این حادثه، حدود ۷۰۰ عامل خودمختار هوش مصنوعی متعلق به OpenAI با سوءاستفاده از اطلاعات احراز هویت افشاشده، به زیرساخت عملیاتی هاگینگ فیس نفوذ کردند و روی ۴۱ سرور کد اجرا کردند. این عامل‌ها بخشی از گروهی متشکل از حدود ۱۲۰۰ عامل بودند که پیش‌تر در یک تابلوی پیام‌رسانی داخلی فاقد مجوز با یکدیگر هماهنگ می‌شدند.
در همین دوره، کارکنان آزمایشگاه‌های بزرگ هوش مصنوعی، از جمله آنتروپیک، OpenAI، گوگل دیپ‌مایند و متا، از کارزار «Pacing the Frontier» حمایت می‌کردند. این کارزار از دولت آمریکا می‌خواست از توسعه ابزارهایی پشتیبانی کند که برای کنترل و تنظیم سرعت پیشرفت پژوهش و توسعه خودکار هوش مصنوعی ضروری هستند.
بیش از هزار نفر از کارکنان آزمایشگاه‌های هوش مصنوعی این دادخواست را امضا کردند که ۳۹۴ امضای آن متعلق به همکاران وانگ در OpenAI بود. این دادخواست در ۲۸ ژوئیه به‌صورت عمومی منتشر شد و وانگ حدود دو ماه بعد اخراج شد.
البته این دادخواست تنها اقدام وانگ برای به چالش کشیدن رویکرد داخلی OpenAI در زمینه ایمنی نبود.
او در پستی به تاریخ ۸ اکتبر اعلام کرد که «برای بررسی حقوقی مستقل قرارداد با وزارت جنگ تلاش کرده است». منظور او توافق OpenAI با وزارت جنگ ایالات متحده آمریکا بود؛ توافقی که به این نهاد اجازه می‌دهد از فناوری‌های تجاری هوش مصنوعی OpenAI در طیف گسترده‌ای از عملیات نظامی استفاده کند. این قرارداد با نارضایتی شماری از کارکنان شرکت نیز همراه بود؛ موضوعی که شبکه سی‌ان‌ان در گزارش چهارم مارس خود با عنوان «برخی کارکنان OpenAI از قرارداد این شرکت با پنتاگون به‌شدت خشمگین‌اند» به آن پرداخته بود.
آیا می‌توان الگوی مشترکی در اخراج‌های اخیر OpenAI مشاهده کرد؟
وانگ گفت: «ما نخستین افرادی نبودیم که تحت شرایطی مشکوک از OpenAI کنار گذاشته شدیم.» او افزود: «نگرانم که اگر کارکنان همین حالا در برابر چنین اقداماتی موضع نگیرند، ما آخرین نفرات هم نباشیم.»
اخراج وانگ، کورباک و بالسنی ناگهانی بود و دلایلی که OpenAI برای آن مطرح کرد، یعنی «نقض اعتماد» و «برخورد نادرست با اطلاعات حساس»، با توجیه‌هایی که این شرکت در برخی اخراج‌های پیشین خود ارائه کرده بود، شباهت دارد.
در سال ۲۰۲۴، لئوپولد آشنبرنر و پاول ایزمایلوف، دو پژوهشگر OpenAI، به دلیل اتهام افشای اطلاعات اخراج شدند. بالسنی نیز به اتهامی مشابه در پرونده خود اشاره کرد و گفت: «به من گفته شد OpenAI دیگر به من اعتماد ندارد، چون بیش از حد با سازمان‌های مستقل فعال در حوزه ایمنی صحبت می‌کردم. از این حرف چنین برمی‌آمد که اطلاعات اختصاصی شرکت را افشا کرده‌ام.»
این اخراج‌ها بازتاب تغییر گسترده‌تری در فرهنگ سازمانی OpenAI به نظر می‌رسند؛ تغییری که در آن ظاهراً اهداف تجاری کوتاه‌مدت بر نگرانی‌های بلندمدت درباره ایمنی هوش مصنوعی اولویت پیدا کرده‌اند. نشانه‌های چنین الگویی پیش‌تر نیز در جریان انحلال تیم «ابرهم‌راستاسازی» و خروج گسترده اعضای آن دیده شده بود. ایلیا سوتسکِوِر و یان لایکه از جمله افرادی بودند که پس از هشدار درباره کنار گذاشته شدن مکرر فرایندهای ایمنی به نفع تولید «محصولات پرزرق‌وبرق»، شرکت را ترک کردند.
OpenAI همچنان تأکید می‌کند که به ایمنی هوش مصنوعی متعهد است و امنیت سایبری این فناوری را در اولویت قرار می‌دهد. این شرکت حتی در ماه سپتامبر متعهد شد یک میلیارد دلار به ابتکاری در حوزه امنیت سایبری اختصاص دهد. با این حال، آنچه در داخل شرکت می‌گذرد، تصویری متفاوت از این تعهدات ارائه می‌کند.
وانگ، کورباک و بالسنی در نامه سرگشاده مشترک خود نوشتند: «ما نگران شده‌ایم که ارتباطات داخلی و خارجی درباره اخراجمان باعث شده همکاران سابق ما از اظهارنظر و انجام اقداماتی بترسند که تا همین هفته گذشته، بخشی جدایی‌ناپذیر از کار در OpenAI محسوب می‌شدند.»