«از کار در گوگل شرم دارم»: استعفای پژوهشگران دیپ‌مایند در اعتراض به قراردادهای نظامی هوش مصنوعی آمریکا
کارکنان دیپ‌مایند به‌دلیل قرارداد محرمانه هوش مصنوعی گوگل با پنتاگون استعفا داده‌اند و از ضعف تدابیر حفاظتی و ترس از برخورد تلافی‌جویانه سخن می‌گویند؛ قرارداد ۱.۲ میلیارد دلاری زیرساخت ابری این شرکت با اسرائیل نیز با اعتراض‌هایی روبه‌رو شده است، اما گوگل تأکید می‌کند که استانداردهای اخلاقی خود را رعایت می‌کند.
افزایش اعتراض‌ها به قراردادهای نظامی گوگل در حوزه هوش مصنوعی باعث شده است چند نفر از کارکنان واحد پژوهشی دیپ‌مایند استعفا دهند و شماری دیگر نیز برای ترک شرکت آماده شوند. این افراد نگران‌اند که فناوری گوگل بدون تدابیر حفاظتی کافی یا نظارت مؤثر انسانی در جنگ به کار گرفته شود.
این استعفاها از تشدید اختلافات درونی یکی از شرکت‌های پیشرو جهان در زمینه هوش مصنوعی حکایت دارد؛ اختلافاتی که هم‌زمان با گسترش همکاری گوگل با ارتش آمریکا، از جمله توافقی برای استفاده از فناوری این شرکت در عملیات دفاعی محرمانه، شدت گرفته است.
بر اساس تحقیق بی‌بی‌سی که روز چهارشنبه منتشر شد، کارکنان فعلی و پیشین دیپ‌مایند نگرانی‌هایی درباره همکاری‌های نظامی شرکت، قابلیت اطمینان سامانه‌های هوش مصنوعی در میدان نبرد و پیامدهای شغلی احتمالی اعتراض علنی به تصمیم‌های گوگل مطرح کرده‌اند.
سوفیا لیگوری، مهندس پژوهشی مستقر در لندن، یکی از افرادی است که شرکت را ترک کرده است. او پس از سه سال فعالیت در گوگل، این هفته استعفا داد و در گفت‌وگو با بی‌بی‌سی گفت از مشارکت روزافزون شرکت در توسعه هوش مصنوعی نظامی احساس شرم می‌کند.
لیگوری گفت مسیر کنونی گوگل اعتماد او را به پایبندی این شرکت به اصول اخلاقی اعلام‌شده‌اش تضعیف کرده است. او همچنین از فضای کاری‌ای سخن گفت که در آن کارکنان به‌دلیل ترس از برخورد تلافی‌جویانه یا آسیب دیدن آینده شغلی‌شان، تمایلی به طرح اعتراض نداشتند.
آندریاس کرش، پژوهشگر هوش مصنوعی، نیز اوایل همین ماه استعفا داد. او به بی‌بی‌سی گفت سازوکارهای راهبری و نظارت داخلی گوگل برای تضمین استفاده مسئولانه از هوش مصنوعی در محیط‌های نظامی محرمانه کافی نیستند.
کرش همچنین این پرسش را مطرح کرد که آیا گوگل پس از تحویل فناوری خود به پنتاگون، کنترل کافی بر نحوه استفاده از آن دارد یا خیر. به گفته او، این شرکت از چگونگی به‌کارگیری فناوری‌هایش در عملیات نظامی اطلاع محدودی دارد و توانایی چندانی برای جلوگیری از کاربردهایی که نامناسب می‌داند، در اختیارش نیست.
هر دو پژوهشگر درباره قابلیت اطمینان فنی سامانه‌های هوش مصنوعی در عملیات نظامی ابراز نگرانی کردند؛ محیطی که در آن اطلاعات نادرست یا توصیه‌های خودکار ممکن است پیامدهایی مرگبار داشته باشند. کرش استدلال کرد که مدل‌های هوش مصنوعی کنونی نه به‌اندازه کافی قابل اتکا هستند و نه برای چنین کاربردهای دشواری به‌خوبی آموزش دیده‌اند.
این جنجال در شرایطی شکل گرفته است که دولت ترامپ استفاده از هوش مصنوعی در نیروهای مسلح آمریکا را با سرعت گسترش می‌دهد. پیت هگست، وزیر دفاع آمریکا، این فناوری را به یکی از اولویت‌های اصلی خود تبدیل کرده و وعده داده است که ارتش آمریکا را به نیرویی نظامی با محوریت هوش مصنوعی تبدیل کند.
گوگل یکی از شرکت‌های فناوری متعددی است که امسال قراردادهای مهمی با پنتاگون امضا کرده‌اند. اوپن‌ای‌آی، آمازون، مایکروسافت، اسپیس‌ایکس، اوراکل و انویدیا نیز در میان این شرکت‌ها هستند. فناوری‌های آن‌ها در حوزه‌های مختلف نظامی، از امور پشتیبانی و برنامه‌ریزی عملیاتی گرفته تا فعالیت‌های میدان نبرد، به کار گرفته می‌شوند.
توافقی که گوگل اوایل امسال با پنتاگون امضا کرد، استفاده از مدل‌های هوش مصنوعی این شرکت را برای «هر هدف قانونی دولت» مجاز می‌داند و فعالیت‌های نظامی محرمانه را نیز در بر می‌گیرد. در این توافق، محدودیت‌هایی درباره نظارت گسترده بر شهروندان داخل آمریکا و استفاده از سلاح‌های خودمختار، از جمله انتخاب هدف بدون نظارت و کنترل انسانی مناسب، در نظر گرفته شده است.
گوگل می‌گوید قراردادهایش با اصول هوش مصنوعی این شرکت سازگارند؛ اصولی که بر نظارت انسانی و احترام به قوانین بین‌المللی و حقوق بشر تأکید دارند. با این حال، منتقدان تردید دارند که بتوان این تدابیر حفاظتی را در عملیات نظامی محرمانه به‌طور مؤثر اجرا کرد؛ به‌ویژه زمانی که کنترل فناوری در اختیار نهادهای دولتی است، نه شرکت‌هایی که آن را توسعه داده‌اند.
یکی از نمونه‌های گسترش استفاده ارتش از هوش مصنوعی، سامانه هوشمند مِیوِن (Maven Smart System) متعلق به پنتاگون است که شرکت آمریکایی فناوری دفاعی پالانتیر آن را توسعه داده است. این سامانه اطلاعات و داده‌های اطلاعاتی را پردازش و سازمان‌دهی می‌کند و با استفاده از هوش مصنوعی به نیروهای نظامی کمک می‌کند اهداف احتمالی را شناسایی کنند و تصمیم‌های عملیاتی را سریع‌تر بگیرند.
پالانتیر فناوری‌های چندین شرکت هوش مصنوعی را در سامانه مِیوِن ادغام کرده است تا تحلیل اطلاعات و داده‌های مربوط به تعیین اهداف با سرعت بیشتری انجام شود. با این حال، افزایش قابلیت‌های چنین سامانه‌هایی نگرانی‌هایی را نیز درباره فرصت کافی اپراتورهای انسانی برای بررسی و تأیید توصیه‌های خودکار ایجاد کرده است.
جک شاناهان، سپهبد بازنشسته نیروی هوایی آمریکا که پیش‌تر هدایت پروژه مِیوِن را بر عهده داشت، به بی‌بی‌سی گفت به نظر می‌رسد پنتاگون بیش از پیش بر استقرار هوش مصنوعی در سریع‌ترین زمان ممکن و در گسترده‌ترین مقیاس تمرکز کرده است؛ رویکردی که ممکن است به بهای کاهش دقت در آزمایش و ارزیابی این فناوری تمام شود.
امیل مایکل، یکی از معاونان وزیر دفاع آمریکا، از تأکید بر اجرای سریع فناوری دفاع کرده و گفته است موفقیت نظامی در عصر هوش مصنوعی بیش از گذشته به سرعت وابسته است.
قراردادهای مرتبط با فعالیت‌های نظامی گوگل در اسرائیل نیز مناقشه مشابهی ایجاد کرده‌اند. گوگل و آمازون در سال ۲۰۲۱ برای اجرای پروژه نیمبوس (Project Nimbus) انتخاب شدند؛ طرحی برای ارائه زیرساخت‌های پیشرفته رایانش ابری به دولت و بخش عمومی اسرائیل که ارزش آن حدود ۱.۲ میلیارد دلار برآورد شده است و نهادهای مرتبط با حوزه دفاعی را نیز در بر می‌گیرد.
این پروژه در سال ۲۰۲۴ با اعتراض شدید شماری از کارکنان گوگل روبه‌رو شد. مخالفان درباره کاربردهای نظامی احتمالی این فناوری و توانایی شرکت برای نظارت بر نحوه استفاده از آن پرسش‌هایی مطرح کردند.
گوگل بارها اعلام کرده است که پروژه نیمبوس برای کاربردهای نظامی بسیار حساس یا محرمانه مرتبط با تسلیحات و سازمان‌های اطلاعاتی طراحی نشده است. با این حال، این قرارداد همچنان منشأ مخالفت‌های داخلی است؛ به‌ویژه در شرایطی که کاربردهای نظامی هوش مصنوعی روزبه‌روز پیشرفته‌تر می‌شوند.
این اختلاف همچنین نگرانی گسترده‌تری را درباره مرز میان تأمین زیرساخت رایانشی برای نهادهای دولتی و پشتیبانی مستقیم از سامانه‌های تصمیم‌گیری نظامی بازتاب می‌دهد. کارکنان معتقدند محدودیت‌های نظارت شرکت‌ها زمانی اهمیت بیشتری پیدا می‌کند که ابزارهای پیشرفته هوش مصنوعی در محیط‌های محرمانه به کار گرفته می‌شوند.
تحقیق بی‌بی‌سی علاوه بر مسائل اخلاقی و فنی، نگرانی‌هایی را درباره فرهنگ سازمانی گوگل و محدودیت‌هایی آشکار کرده است که کارکنان خواهان انتقاد علنی از شرکت با آن‌ها مواجه می‌شوند.
لیگوری گفت مفاد قرارداد استخدامی‌اش حتی پس از ترک شرکت نیز توانایی او برای انتقاد از گوگل را محدود می‌کند. با وجود این، تصمیم گرفت علناً درباره این موضوع صحبت کند، زیرا معتقد بود کارکنان و افکار عمومی حق دارند از مشارکت نظامی شرکت آگاه باشند.
او در توصیف فضای حاکم بر مخالفت‌های داخلی، به بی‌بی‌سی گفت: «احساس می‌کنید زیر نظر هستید؛ نمی‌توانید حرف بزنید.»
دیگر کارکنان دیپ‌مایند که بی‌بی‌سی با آن‌ها مصاحبه کرده بود، اما نامشان را منتشر نکرد، نگرانی‌های مشابهی را مطرح کردند. یکی از آن‌ها گفت بسیاری از همکارانی که با تغییر مسیر اخلاقی شرکت مخالف بودند، پیش‌تر استعفا داده‌اند؛ در حالی که برخی دیگر معتقدند در سازمانی به این بزرگی، امید چندانی به تأثیرگذاری بر تصمیم‌ها وجود ندارد.
یکی دیگر از کارکنان احتمال داد پژوهشگرانی که به‌دلیل مأموریت علمی اولیه دیپ‌مایند به این مجموعه پیوسته‌اند، به‌تدریج جای خود را به افرادی بدهند که با گسترش تعهدات دفاعی شرکت راحت‌تر هستند. به گفته او، چنین تغییری ممکن است فرهنگ سازمان را نیز دگرگون کند.
گوگل ادعاها مبنی بر نبود تدابیر حفاظتی مناسب در قراردادهای دولتی یا ناتوانی کارکنان در طرح امن نگرانی‌هایشان را رد کرده است.
سخنگوی شرکت به بی‌بی‌سی گفت گوگل برای ارزیابی قراردادهای بخش عمومی در سراسر جهان از رویه‌های یکسانی استفاده می‌کند، بر رعایت سیاست‌های استفاده مجاز و اصول هوش مصنوعی خود نظارت دارد و کانال‌های مشخصی را برای طرح نگرانی‌های اخلاقی یا گزارش تخلف در اختیار کارکنان قرار داده است.
این سخنگو افزود که گوگل سیاست‌هایی در محیط کار دارد که هدف آن‌ها جلوگیری از برخورد تلافی‌جویانه با کارکنانی است که نگرانی‌های خود را مطرح می‌کنند.
با این حال، این اختلاف پرسشی دشوار و فزاینده را پیش روی صنعت هوش مصنوعی قرار می‌دهد: هرچه فناوری‌های پیشرفته این صنعت بیشتر در عملیات نظامی ادغام می‌شوند، شرکت‌های سازنده تا چه اندازه می‌توانند کنترل نحوه استفاده از آن‌ها را حفظ کنند؟ و اگر پژوهشگرانی که این فناوری‌ها را ساخته‌اند دیگر به تدابیر حفاظتی اعتماد نداشته باشند، چه اتفاقی خواهد افتاد؟