اخراج سه پژوهشگر ایمنی هوش مصنوعی از OpenAI به‌دلیل پیام‌های ناپدیدشونده در سیگنال
شرکت OpenAI پس از آنکه در یک تحقیق داخلی مشخص شد سه نفر از پژوهشگران تیم ایمنی این شرکت برای ارتباط با یک متخصص ایمنی خارج از سازمان از پیام‌های رمزگذاری‌شده و ناپدیدشونده اپلیکیشن سیگنال استفاده کرده‌اند، آنها را اخراج کرد.
این اخراج‌ها که از بروز شکافی جدی در بخش ایمنی OpenAI حکایت دارد، فشارهای داخلی شدید و محدودیت‌های سخت‌گیرانه بر تبادل اطلاعات در یکی از پیشروترین شرکت‌های توسعه هوش مصنوعی را آشکار کرده است. به گزارش وال‌استریت ژورنال، کارکنان بخش امنیت در جریان یک بررسی معمول، این گفت‌وگوها را شناسایی کردند و دریافتند پژوهشگران هنگام بحث درباره اطلاعات حساس شرکت، قابلیت حذف خودکار پیام‌ها را فعال کرده بودند.
بازسازی ساختار سازمانی و نقض مقررات امنیتی
این اخراج‌ها در حالی رخ داده که OpenAI هم‌زمان با تغییر ساختار خود از یک شرکت با سود محدود به یک بنگاه کاملاً انتفاعی، در حال بازسازی گسترده تیم‌های ایمنی و سیاست‌گذاری است. پژوهشگران اخراج‌شده مظنون بودند که اطلاعات محرمانه مربوط به ارزیابی‌های داخلی ایمنی و قابلیت‌های مدل‌های این شرکت را در اختیار یک سازمان مستقل فعال در حوزه ایمنی هوش مصنوعی قرار داده‌اند. اپلیکیشن سیگنال به‌دلیل برخورداری از رمزگذاری سرتاسری، میان کارکنان صنعت فناوری و روزنامه‌نگاران کاربرد گسترده‌ای دارد؛ اما در این پرونده، استفاده از قابلیت پیام‌های ناپدیدشونده بود که هشدارهای امنیتی داخلی را فعال کرد. OpenAI مقررات سخت‌گیرانه‌ای برای حفظ محرمانگی و کنترل داده‌های اختصاصی خود دارد؛ به‌ویژه درباره وزن‌های مدل، داده‌های آموزشی و پروتکل‌های هم‌راستاسازی ایمنی مدل‌های پیشرفته‌اش.
انتقال بدون مجوز چنین اطلاعاتی به افراد یا سازمان‌های خارج از شرکت، نقض جدی اعتماد و مقررات سازمانی تلقی می‌شود. این اتفاق بحث تازه‌ای را در جامعه پژوهشی هوش مصنوعی درباره چگونگی ایجاد تعادل میان محرمانگی تجاری و شفافیت علمی برانگیخته است. حامیان ایمنی هوش مصنوعی معتقدند بررسی مستقل پژوهش‌ها از سوی متخصصان خارج از شرکت برای کاهش خطرات فاجعه‌بار احتمالی هوش مصنوعی پیشرفته ضروری است؛ به‌ویژه در حوزه آزمون‌های خصمانه یا «تیم قرمز» و پژوهش‌های مربوط به تفسیرپذیری مدل‌ها. بااین‌حال، افشای نتایج آزمون‌های تیم قرمز ممکن است به افراد مخرب امکان دهد پیش از برطرف شدن آسیب‌پذیری‌ها، از فیلترهای ایمنی عبور کنند یا از نقاط ضعف مدل‌ها سوءاستفاده کنند. در مقابل، OpenAI و شرکت‌های رقیب آن استدلال می‌کنند که افشای زودهنگام قابلیت‌های مدل‌ها می‌تواند به بهره‌برداری رقبای خارجی منجر شود یا به رقابت تسلیحاتی مهارنشده در حوزه هوش مصنوعی سرعت ببخشد.
تنش‌های داخلی و پیشینه اختلافات
این نخستین بار نیست که OpenAI با اعتراض یا خروج گسترده نیروهای بخش ایمنی خود روبه‌رو می‌شود. این شرکت در سال ۲۰۲۴ تیم «ابرهم‌راستاسازی» (Superalignment) را منحل کرد؛ تصمیمی که به خروج شماری از چهره‌های کلیدی انجامید. این افراد معتقد بودند شرکت در مقایسه با سرعت توسعه و عرضه محصولات، تعهد کافی به فرهنگ ایمنی ندارد. اخراج‌های اخیر نشان می‌دهد OpenAI هم‌زمان با گسترش فعالیت‌ها و تلاش برای جذب سرمایه بیشتر، مقررات سخت‌گیرانه‌تری را برای رعایت الزامات داخلی اعمال می‌کند. اختلاف میان طرفداران توقف موقت و سخت‌گیرانه توسعه هوش مصنوعی از طریق مقررات‌گذاری و کسانی که خواهان عرضه سریع این فناوری هستند و اغلب با جریان «شتاب‌گرایی مؤثر» شناخته می‌شوند، فضای داخلی پرتنشی ایجاد کرده است؛ فضایی که در آن امنیت اطلاعات اهمیتی حیاتی دارد.
بررسی زمان‌بندی این اخراج‌ها نشان می‌دهد اجرای مقررات امنیتی داخلی به‌صورت مرحله‌ای پیش رفته است. رسانه‌های فناوری در اوایل اکتبر ابتدا گزارش دادند که OpenAI همکاری خود را با چند عضو گروه پژوهش ایمنی قطع کرده و دلیل آن را بازسازی معمول ساختار سازمانی عنوان کرده است. اما گزارش تفصیلی وال‌استریت ژورنال که ۲۳ اکتبر منتشر شد، جزئیات مشخص‌تری از چگونگی نقض مقررات ارائه کرد و استفاده از قابلیت پیام‌های ناپدیدشونده سیگنال را عامل اصلی آغاز تحقیقات امنیتی معرفی کرد. نام سازمان خارجی که گمان می‌رود اطلاعات افشاشده را دریافت کرده باشد، هنوز به‌صورت عمومی اعلام نشده است. بااین‌حال، برخی منابع آگاه در صنعت معتقدند این سازمان به شبکه‌ای از نهادهای مستقل ناظر بر ایمنی هوش مصنوعی تعلق دارد که به‌طور مرتب از تجاری‌سازی مدل‌های پیشرفته انتقاد می‌کنند.
پیامدهای نظارتی و استانداردهای صنعت
این اتفاق همچنین شکاف فزاینده میان پژوهشگران دانشگاهی و آزمایشگاه‌های هوش مصنوعی وابسته به شرکت‌های تجاری را برجسته می‌کند. در محیط دانشگاهی، انتشار نسخه‌های اولیه مقالات پژوهشی و گفت‌وگو با همتایان درباره رفتار مدل‌ها امری رایج است و برای تکرارپذیری نتایج و پیشرفت جمعی پژوهش‌ها ضرورت دارد. اما در فضای رقابتی و حساس آزمایشگاه‌های هوش مصنوعی چندمیلیارددلاری، چنین گفت‌وگوهایی به‌شدت کنترل می‌شود تا مزیت رقابتی شرکت حفظ شود. پژوهشگران اخراج‌شده که عمیقاً در فعالیت‌های فنی مربوط به هم‌راستاسازی مدل‌های زبانی بزرگ مشارکت داشتند، احتمالاً ارتباط با متخصصان خارج از شرکت را اقدامی ضروری برای رعایت اصول اخلاقی و اطمینان از امکان راستی‌آزمایی مستقل ادعاهای ایمنی OpenAI می‌دانستند. در مقابل، مدیران OpenAI افشای بدون مجوز این اطلاعات را تهدیدی مستقیم علیه تداوم فعالیت تجاری و مشارکت‌های راهبردی شرکت تلقی می‌کنند.
نحوه مدیریت پژوهش‌های حساس هوش مصنوعی بیش‌ازپیش توجه نهادهای نظارتی را جلب کرده است. وزارت بازرگانی ایالات متحده و نهادهای مسئول کنترل صادرات، دستورالعمل‌های سخت‌گیرانه‌ای درباره انتقال فناوری‌های پیشرفته هوش مصنوعی و وزن‌های مدل‌ها دارند. هرچند احتمال می‌رود گفت‌وگوهای این پژوهشگران بیشتر بر هم‌راستاسازی ایمنی متمرکز بوده باشد تا انتقال وزن‌های مدل مشمول محدودیت‌های صادراتی، این پرونده پیچیدگی‌های نظارتی فراوانی را نشان می‌دهد که شرکت‌های فناوری هنگام تعیین مرزهای دسترسی و تبادل دانش داخلی با آنها روبه‌رو هستند.
کارشناسان حقوقی صنعت فناوری می‌گویند استفاده از پیام‌رسان‌های رمزگذاری‌شده مجهز به قابلیت حذف خودکار پیام‌ها، در دعاوی حقوقی شرکت‌ها و تحقیقات نهادهای نظارتی بیش‌ازپیش زیر ذره‌بین قرار گرفته است. اگرچه کارکنان اغلب برای حفظ حریم خصوصی از این ابزارها استفاده می‌کنند، چنین ابزارهایی با سیاست‌های متعارف نگهداری سوابق که برای رعایت مقررات و انجام حسابرسی‌های داخلی ضروری است، مغایرت دارند. این اخراج‌ها هشداری جدی برای کل صنعت فناوری به شمار می‌رود: دوران تبادل غیررسمی اطلاعات در توسعه هوش مصنوعی به پایان رسیده و جای خود را به پروتکل‌های امنیتی سخت‌گیرانه در سطح نهادهای دولتی داده است؛ پروتکل‌هایی که هدفشان حفاظت از دارایی فکری‌ای است که اکنون بسیاری آن را ارزشمندترین مالکیت معنوی جهان می‌دانند.
در شرایطی که OpenAI خود را برای نسل بعدی مدل‌های استدلال‌گر آماده می‌کند، اخراج سه پژوهشگر ایمنی به‌دلیل گفت‌وگوهای رمزگذاری‌شده نشان‌دهنده تشدید سخت‌گیری‌های امنیتی در این شرکت است. این رویکرد، حفاظت از مالکیت فکری را در اولویت قرار می‌دهد؛ آن هم در زمانی که جامعه علمی خواستار شفافیت بیشتر در توسعه هوش مصنوعی است.