آیا استارتاپ‌های هوش مصنوعی برای مقابله با اعتراضات «بازی جنگ» طراحی می‌کنند و افشاگران را اخراج می‌کنند؟
در ادامه جنجال‌های صنعت هوش مصنوعی، گزارش‌هایی از رصد اعتراضات علیه این فناوری توسط اوپن‌ای‌آی و آنتروپیک منتشر شده است؛ آن هم در شرایطی که سه پژوهشگر اخراج‌شده اوپن‌ای‌آی، این شرکت را به رفتارهای نادرست متهم می‌کنند.
نویسنده: راج ان. چاندرا شکر | ۱۵ اکتبر ۲۰۲۶، ساعت ۹:۱۷ صبح
وقتی دیروز نوشتیم که می‌توان درباره اوپن‌ای‌آی یا حتی بهتر از آن، درباره کل صنعت هوش مصنوعی یک برنامه واقع‌نما یا سریال اینترنتی ساخت، واقعاً شوخی نمی‌کردیم! حقیقت این است که دنبال کردن تحولات این صنعت برای ما به‌عنوان یک مجموعه رسانه‌ای به کاری دشوار تبدیل شده است. هر روز گزارش‌های بیشتری منتشر می‌شود؛ برخی کاملاً واقعی‌اند، بسیاری بر اطلاعات افشاشده تکیه دارند و بقیه چیزی جز شنیده‌ها و شایعات نیستند.
برای همین شاید منطقی‌تر باشد که هر هفته یک قسمت از این ماجراها در تلویزیون یا پلتفرم‌های پخش آنلاین به نمایش درآید؛ برنامه‌ای که همه اتفاقات را کنار هم بگذارد، کمی هم چاشنی هیجان به آن‌ها اضافه کند ــ هرچند بعضی‌ها معتقدند همین حالا هم به‌اندازه کافی هیجان‌انگیزند ــ و از دل آن‌ها داستانی بسازد. آخر بعضی خبرهایی که می‌خوانیم به‌قدری عجیب‌اند که باورشان دشوار است. برای نمونه، گزارشی منتشر شده که می‌گوید اوپن‌ای‌آی و آنتروپیک در حال آماده‌سازی «بازی‌های جنگی» به سبک پنتاگون هستند تا در صورت گسترش اعتراضات مردمی علیه مراکز داده، برای مقابله با شرایط احتمالی آماده باشند.
انگار ضرب‌المثل قدیمی «واقعیت از داستان عجیب‌تر است» دقیقاً برای چنین موقعیتی ساخته شده، مگر نه؟ وب‌سایت اکسیوس نخستین رسانه‌ای بود که این خبر را منتشر کرد و عنوان «شرکت‌های هوش مصنوعی برای روز بعد نقشه می‌کشند» را برای آن برگزید؛ عنوانی که ظاهراً اشاره‌ای نه‌چندان خوش‌ساخت به یک فیلم سینمایی است. اکسیوس گزارش داد: «مدیران ارشد آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی، پشت درهای بسته در حال بررسی سناریوهای مختلف برای مواجهه با شورش عمومی و سیاسی پس از وقوع یک فاجعه مرتبط با هوش مصنوعی هستند.»
عجب! همین اواخر وال‌استریت ژورنال گزارش داده بود که ۶۴ درصد بزرگسالان آمریکایی از توقف فوری توسعه هوش مصنوعی حمایت می‌کنند. بااین‌حال، واکنشی که اکنون از شرکت‌های این صنعت می‌بینیم، دست‌کم می‌توان گفت رنگ‌وبویی ماکیاولیستی دارد. بر اساس گزارش اکسیوس، آزمایشگاه‌های هوش مصنوعی در حال آماده‌سازی پاسخ‌هایی برای سناریوهای فرضی هستند؛ از حملات سایبری گسترده‌ای که محصولات خودشان امکان وقوع آن را فراهم کرده باشند گرفته تا شورش‌های سیاسی در واکنش به فاجعه‌ای که هوش مصنوعی رقم زده است.
واکنش دو استارتاپ بزرگ هوش مصنوعی به این گزارش نیز در نوع خود قابل‌توجه بود. آنتروپیک از اظهارنظر خودداری کرد؛ آن هم در حالی که گزارش‌هایی منتشر شده مبنی بر اینکه این شرکت در حال ایجاد سازوکاری نظارتی برای زیر نظر گرفتن اعتراضات علیه هوش مصنوعی است. در مقابل، اوپن‌ای‌آی با خونسردی اعلام کرد که «تمرین‌های آمادگی» برگزار می‌کند؛ تمرین‌هایی که در آن تیم‌ها درباره مجموعه‌ای از سناریوهای احتمالی گفت‌وگو می‌کنند و راه‌های مواجهه با آن‌ها را بررسی می‌کنند.
سخنگوی اوپن‌ای‌آی به اکسیوس گفت: «ما این سناریوها را اتفاقاتی اجتناب‌ناپذیر نمی‌دانیم؛ هدف از بررسی آن‌ها این است که برای شرایط گوناگون آمادگی داشته باشیم.» اینکه سرانجام این تحولات به کجا خواهد رسید، فعلاً در حد حدس و گمان است. اما همین‌قدر می‌توان گفت که مدیران شرکت‌های هوش مصنوعی احتمالاً این روزها در اتاق‌های هیئت‌مدیره خود چندان آسوده‌خاطر نیستند و حتی کوچک‌ترین نشانه‌های مخالفت نیز ممکن است در داخل این شرکت‌ها با برخورد روبه‌رو شود.
در چنین فضایی است که اخراج پژوهشگران ایمنی از اوپن‌ای‌آی خبرساز شده است. گفته می‌شود این افراد اطلاعاتی را خارج از مجاری مورد تأیید شرکت به اشتراک گذاشته‌اند. کارکنان اخراج‌شده اکنون در نامه‌ای سرگشاده، ادعاهای اوپن‌ای‌آی را رد کرده و هشدار داده‌اند که رفتار این شرکت باعث شده کارکنان از ترس پیامدهای احتمالی، سکوت اختیار کنند.
دیدید چه گفتیم؟ حتی بهترین نویسندگان سریال‌های پرکشش تلویزیونی هم نمی‌توانستند داستانی تا این اندازه تیره، پرتنش و نفس‌گیر خلق کنند؛ داستانی که مخاطب بخواهد تمام قسمت‌هایش را یک‌نفس تماشا کند. متأسفانه چنین چیزی ممکن نیست، چون هر روز ماجرای تازه‌ای به این داستان اضافه می‌شود.
جاسمین وانگ، تومک کورباک و میکیتا بالسنی، سه کارمند اخراج‌شده اوپن‌ای‌آی، در نامه سرگشاده خود که عنوان معنادار «اوپن‌ای‌آی به‌تنهایی نمی‌تواند ایمنی هوش مصنوعی را تضمین کند» را بر آن گذاشته‌اند، می‌نویسند: «ما نگران شده‌ایم که ارتباطات داخلی و خارجی درباره اخراجمان باعث شده همکاران سابق ما از صحبت کردن و انجام فعالیت‌هایی بترسند که تا همین هفته گذشته، بخشی جدایی‌ناپذیر از کار در اوپن‌ای‌آی محسوب می‌شدند.»
ما هم با آن‌ها موافقیم. افرادی مانند ساتیا نادلا و بسیاری دیگر نیز خواهان شفافیت بیشتری درباره فعالیت‌هایی هستند که این استارتاپ‌های هوش مصنوعی پشت درهای بسته انجام می‌دهند. پرسش این است که آیا این شرکت‌ها اطلاعات را به‌صورت گزینشی منتشر می‌کنند تا توانایی‌های محصولات خود را برجسته‌تر نشان دهند؟
این سه کارمند سابق در نامه خود همچنین هرگونه نقش داشتن در افشاگری پیشین درباره معماری مدل‌های جدید اوپن‌ای‌آی را رد کرده‌اند. آن افشاگری مدعی بود که اوپن‌ای‌آی در حال توسعه جدیدترین مدل‌های خود بر پایه معماری‌هایی موسوم به «بازگشت بازگشتی غیرشفاف» (Opaque Recurrence) است؛ معماری‌هایی که نظارت انسان بر فرایند استدلال زیربنایی مدل‌ها را دشوارتر می‌کنند. البته خود شرکت پیش‌تر اعلام کرده بود که این رویکرد صرفاً بخشی از یک آزمایش بوده است.
اما درباره این سه پژوهشگر، اوپن‌ای‌آی ادعا می‌کند که آن‌ها اطلاعات محرمانه شرکت را با یک سازمان ثالث فعال در حوزه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند. در بیانیه شرکت آمده است که این اقدام، نقض «سیاست‌های شرکت درباره دسترسی به اطلاعات حساس و نحوه مدیریت آن‌ها» بوده و «اعتماد ضروری برای انجام کار ما» را از بین برده است. اما تکلیف اعتماد به کل این صنعت چه می‌شود؟
به همین دلیل باید به سخنان این سه پژوهشگر اخراج‌شده توجه کنیم. آن‌ها می‌گویند: «هوش مصنوعی یک فناوری معمولی نیست و اوپن‌ای‌آی هم یک شرکت معمولی نیست. ما که در حوزه ایمنی کار می‌کنیم، خطرات را زودتر از دیگران می‌بینیم و برای یافتن راه‌های مقابله با آن‌ها به همکاری نزدیک با متخصصان خارج از شرکت متکی هستیم. اینکه بتوانیم بدون ترس چنین همکاری‌هایی داشته باشیم و رویه‌های داخلی مشخصی نیز برای تسهیل این فعالیت‌ها وجود داشته باشد، خود یکی از سازوکارهای اساسی تأمین ایمنی است.»
استارتاپ‌های هوش مصنوعی با رفتار خود خطرات نوآوری بی‌مهار را آشکار می‌کنند؛ خطری که به گفته این پژوهشگران جوان، هنگام ارزیابی عملکرد چنین شرکت‌هایی باید جدی گرفته شود. آن‌ها معتقدند تأکید مداوم این شرکت‌ها بر ایمنی، در عمل چندان با رفتارشان همخوانی ندارد و ادعاهایشان توخالی به نظر می‌رسد.
این پژوهشگران در نامه سرگشاده خود می‌نویسند: «ما باور نداریم که بتوان مسیر دستیابی به ابرهوش را با ایمنی طی کرد، اگر افرادی که بیش از همه با خطرات آن سروکار دارند دیگر نتوانند با یکدیگر و با طرف‌های ثالث، در فضایی مبتنی بر اعتماد بالا و تبادل آزاد و گسترده اطلاعات همکاری کنند. ما این نامه را برای دفاع از همین فرهنگ کاری نوشته‌ایم.»
آیا ساتیا نادلا صدای آن‌ها را می‌شنود؟ شاید وقت آن رسیده باشد که مایکروسافت هم به‌جای اکتفا به حرف، در عمل به وعده‌هایش پایبند بماند و افرادی از این دست را استخدام کند تا بتوانند در زمینه فراتر رفتن از آزمون‌های هوش مصنوعی در محیط‌های ایزوله یا سندباکس، همان کاری را انجام دهند که به آن باور دارند.
راستی، نگاهی هم به تصویر تولیدشده با هوش مصنوعی که همراه این مقاله منتشر کرده‌ایم بیندازید. ما این تصویر را با یک دستور ساده از گروک گرفتیم: «یک کاریکاتور از شرکت‌های هوش مصنوعی بساز که در حال طراحی بازی‌های جنگی برای مقابله با مقاومت در برابر گسترش مراکز داده هستند.» ظاهراً گروک چیزهایی می‌داند که ما از آن‌ها بی‌خبریم!