سه پژوهشگر اخراج‌شده ایمنی در OpenAI می‌گویند هرگز به آن‌ها نگفته‌اند دقیقاً چه اطلاعاتی را افشا کرده‌اند
سه پژوهشگر ایمنی در OpenAI که به اتهام افشای اطلاعات اخراج شدند، اکنون روایت خود را از این ماجرا مطرح می‌کنند. تومک کورباک، میکیتا بالسنی و جزمین وانگ هرگونه اشتراک‌گذاری اطلاعات محرمانه را رد می‌کنند، دلایل رسمی اخراج خود را زیر سؤال می‌برند و احتمال می‌دهند که این تصمیم با تلاش‌های آن‌ها برای شفاف‌تر کردن سامانه‌های هوش مصنوعی مرتبط بوده باشد.
OpenAI پس از انجام تحقیقات داخلی درباره تخلف‌های ادعایی این سه نفر در زمینه نحوه نگهداری و انتقال اطلاعات حساس، آن‌ها را اخراج کرد. هر سه پژوهشگر پیش از اخراج، به‌صورت علنی درباره خطرهای هوش مصنوعی صحبت کرده بودند.
این پژوهشگران در گفت‌وگو با وال‌استریت ژورنال، روایت شرکت را زیر سؤال برده‌اند. OpenAI به این روزنامه گفته است که اخراج آن‌ها هیچ ارتباطی با نگرانی‌های ایمنی مطرح‌شده از سوی این پژوهشگران نداشته است. بااین‌حال، این سه نفر می‌گویند شرکت هرگز به‌صورت کتبی به آن‌ها اطلاع نداده است که دقیقاً کدام اطلاعات را برخلاف مقررات مدیریت کرده‌اند. آن‌ها همچنین نگران‌اند که این پرونده، ارزیابان مستقل ایمنی را از همکاری با شرکت‌های هوش مصنوعی منصرف کند.
گزارش وال‌استریت ژورنال جزئیات بیشتری از اتفاقاتی را روشن می‌کند که به این رویارویی انجامید. تیم امنیتی OpenAI به این موضوع مشکوک شده بود که این سه پژوهشگر، جزئیاتی درباره معماری داخلی مدل‌های شرکت را با یک پژوهشگر ایمنی خارج از سازمان در میان گذاشته‌اند. این تیم از آن‌ها خواست قفل تلفن‌های شخصی خود را باز کنند. در این دستگاه‌ها، پیام‌های ردوبدل‌شده در اپلیکیشن سیگنال (Signal) را پیدا کردند که قابلیت حذف خودکار پیام‌ها در آن‌ها فعال بود. یک هفته بعد، هر سه نفر هم‌زمان اخراج شدند. OpenAI اعلام کرد که سیگنال ابزار ارتباطی مورد تأیید شرکت نبوده، اما تأکید کرد استفاده از این اپلیکیشن دلیل اخراج آن‌ها نبوده است. کورباک در مقابل می‌گوید ارسال پیام‌های ناپدیدشونده یکی از رویه‌های معمول امنیتی در سراسر سیلیکون‌ولی است.
اختلاف بر سر نظارت بر مراحل استدلال هوش مصنوعی
محور اصلی اختلاف، پرسشی فنی با پیامدهای مهم است: آیا شرکت‌های هوش مصنوعی باید به افراد و نهادهای بیرونی اجازه دهند فرایند تفکر مدل‌هایشان را بررسی کنند؟ مدل‌های استدلالی هوش مصنوعی می‌توانند مراحل میانی حل مسئله را در یک فضای یادداشت‌برداری داخلی ثبت کنند که به آن «زنجیره استدلال» (Chain of Thought) گفته می‌شود. شرکت‌ها و پژوهشگران ایمنی از این ردپاها برای درک چگونگی رسیدن مدل‌ها به تصمیم‌هایشان استفاده می‌کنند.
بالسنی، کورباک و وانگ در مقاله‌ای پژوهشی در سال ۲۰۲۵، همراه با پژوهشگران برجسته چندین آزمایشگاه هوش مصنوعی، خواستار حفظ دسترسی به این قابلیت شدند. این مسئله در تابستان اهمیت بیشتری پیدا کرد؛ زمانی که کارکنان شرکت‌های هوش مصنوعی درباره مدل‌هایی بحث می‌کردند که مدت بیشتری استدلال می‌کنند، اما مراحل میانی کمتری از فرایند استدلال خود را ثبت می‌کنند. بالسنی در داخل شرکت با به‌اشتراک‌گذاشتن پیشنهادی مرتبط از سوی رایان گرینبلات، دانشمند ارشد وقت مؤسسه پژوهشی ردوود (Redwood Research)، به این روند اعتراض کرد.
کورباک نیز به‌طور منظم با گرینبلات در ارتباط بود. این دو هنگام همکاری بر سر تحلیل یک رویداد مهم، از طریق اسلک و سیگنال با یکدیگر گفت‌وگو می‌کردند: حمله عامل‌های هوش مصنوعی OpenAI به پلتفرم Hugging Face. مؤسسه METR از گرینبلات خواسته بود تحقیقی مستقل درباره این رویداد انجام دهد.
گزارش خبری درباره Astra آغازگر تحقیقات شد
این همکاری پس از آن به عاملی دردسرساز تبدیل شد که نشریه The Information در اول سپتامبر گزارش داد مدل جدید OpenAI با نام Astra توانمندتر شده، اما بخش کمتری از فرایند استدلال خود را آشکار می‌کند. یاکوب پاچوکی، دانشمند ارشد OpenAI، در آن زمان در شبکه اجتماعی ایکس این گزارش را آشفته و گمراه‌کننده خواند؛ این در حالی بود که خود او پیش‌تر درباره رقابت گسترده در صنعت برای ساخت مدل‌هایی هشدار داده بود که دیگر نمی‌توان فرایند عملکردشان را زیر نظر گرفت.
به گزارش وال‌استریت ژورنال، چند هفته بعد OpenAI تحقیقات داخلی درباره افشای اطلاعات را آغاز کرد. بالسنی می‌گوید بازرسان، گرینبلات را منبع احتمالی افشاگری معرفی کردند و خواستار مشاهده پیام‌های ردوبدل‌شده میان او و گرینبلات در سیگنال شدند. گرینبلات هرگونه انتقال اطلاعات محرمانه به خبرنگاران را رد می‌کند.
وانگ با اتهام جداگانه‌ای روبه‌رو شد: OpenAI اعلام کرد که او بارها به صندوق ورودی ایمیل یکی از مدیران ارشد شرکت دسترسی پیدا کرده است. وانگ می‌گوید نزدیک به یک سال پیش درخواست کرده بود این دسترسی لغو شود، اما ماه قبل به‌طور تصادفی ایمیلی حساس را باز کرده بود. به گفته او، محتوای ایمیل را با کسی در میان نگذاشت و بلافاصله این اتفاق را گزارش کرد. OpenAI می‌گوید اصل دسترسی به صندوق ایمیل، مسئله مورد اعتراض شرکت نبوده است.
به گفته کورباک، پیامدهای این پرونده بسیار فراتر از سرنوشت این سه پژوهشگر است. او می‌گوید همکارانشان اکنون از گفت‌وگو با افراد خارج از شرکت یا طرح نگرانی‌های ایمنی در داخل سازمان می‌ترسند. این سه پژوهشگر در نامه‌ای به هیئت‌مدیره OpenAI خواستار همکاری نزدیک‌تر شرکت با سازمان‌های مستقل ایمنی شده‌اند.
در همین حال، گزارشی از یک ممیزی حضوری که به‌تازگی منتشر شده، پرسش‌های دیگری درباره رویه‌های ایمنی OpenAI مطرح کرده است. کارکنان METR و مؤسسه ردوود ریسرچ در جریان این بررسی، شکاف‌های امنیتی متعددی را در زیرساخت‌های شرکت شناسایی کردند، اما OpenAI تقریباً نیمی از گزارش نهایی را حذف یا سانسور کرد.
OpenAI همچنین گزارش خود را درباره معماری امنیتی جدیدی منتشر کرد که بدون دسترسی به اینترنت کار می‌کند. این شرکت اعلام کرد مشکلات شناسایی‌شده را برطرف کرده و در اوایل اکتبر آموزش مدل‌ها را از سر گرفته است. OpenAI می‌گوید به‌زودی چند همکاری جدید با سازمان‌های بیرونی را نیز اعلام خواهد کرد.
منبع: وال‌استریت ژورنال