چرا کارکنان گوگل دیپ‌مایند در اعتراض به قراردادهای نظامی هوش مصنوعی استعفا می‌دهند؟
اختلاف‌نظرهای داخلی بر سر همکاری‌های نظامی گوگل بالا گرفته و چند تن از کارکنان فنی واحد هوش مصنوعی این شرکت، گوگل دیپ‌مایند، را به استعفا واداشته است. این کارکنان می‌گویند گسترش قراردادهای دفاعی گوگل با نیروهای مسلح آمریکا و اسرائیل با باورهای اخلاقی آن‌ها در تضاد است.
این استعفاها پس از نهایی شدن توافق‌هایی در اوایل سال جاری رخ داده است که به وزارت دفاع آمریکا، پنتاگون، اجازه می‌دهد از مدل‌های تجاری هوش مصنوعی در محیط‌های نظامی طبقه‌بندی‌شده استفاده کند. در حالی که مقام‌های دفاعی آمریکا به دنبال نوسازی توانمندی‌های نظامی هستند، مهندسانی که گوگل را ترک کرده‌اند هشدار می‌دهند سامانه‌های کنونی از قابلیت اطمینان و نظارت انسانی کافی برای استفاده در عملیات جنگی حساس و پرخطر برخوردار نیستند.
نگرانی‌های اخلاقی؛ عامل استعفای کارکنان
سوفیا لیگوری، مهندس پژوهشی مستقر در لندن که پس از سه سال فعالیت در دیپ‌مایند، این هفته از شرکت جدا شد، می‌گوید گسترش روابط گوگل با نهادهای دفاعی عامل اصلی تصمیم او برای استعفا بوده است.
لیگوری که با وجود تعهدات قراردادی مربوط به محرمانگی اطلاعات، از موضع شخصی خود سخن می‌گفت، اظهار کرد: «وقتی می‌بینم شرکتی که در آن کار می‌کنم بیش از پیش به دنبال استفاده از سامانه‌های هوش مصنوعی در عملیات نظامی است، از کار کردن در گوگل احساس شرمساری می‌کنم.» او افزود که مسیر کنونی شرکت، اعتمادش را به پایبندی گوگل به اصول اعلام‌شده هوش مصنوعی، از جمله احترام به حقوق بشر و حفظ کنترل بر عملکرد این فناوری، تضعیف کرده است.
آندریاس کیرش، پژوهشگر هوش مصنوعی که او نیز اوایل ماه جاری از دیپ‌مایند استعفا داد، نگرانی‌های مشابهی مطرح کرد. او معتقد است سامانه‌های تجاری هوش مصنوعی برای استفاده در محیط‌های جنگی مناسب نیستند.
کیرش گفت: «سازوکارهای راهبری و نظارتی گوگل به‌اندازه کافی مؤثر و معنادار نیستند که بتوان با اتکا به آن‌ها، هوش مصنوعی را به شکلی ایمن و مسئولانه در محیط‌های نظامی و طبقه‌بندی‌شده به کار گرفت.» او افزود که به نظر می‌رسد گوگل اطلاع چندانی از نحوه استفاده وزارت دفاع آمریکا از این فناوری ندارد و از اختیار کافی برای جلوگیری از کاربردهای خاص آن نیز برخوردار نیست. کیرش هشدار داد که مدل‌های کنونی هوش مصنوعی هنوز از استحکام و قابلیت اطمینان لازم برای استفاده در میدان نبرد برخوردار نیستند.
تلاش بخش دفاعی آمریکا برای حرکت به سوی جنگ مبتنی بر هوش مصنوعی
این تنش‌ها در محیط کاری گوگل هم‌زمان با برنامه گسترده‌تر دولت آمریکا برای ادغام نرم‌افزارهای پیشرفته در عملیات نظامی شکل گرفته است. پیت هگست، وزیر دفاع آمریکا، استفاده سریع از این فناوری‌ها را در اولویت قرار داده و اعلام کرده است که می‌خواهد نیروهای مسلح این کشور را به نیرویی جنگی تبدیل کند که هوش مصنوعی در کانون فعالیت‌های آن قرار دارد.
امیل مایکل، معاون وزیر دفاع آمریکا، نیز اوایل سال جاری بر همین رویکرد تأکید کرد و گفت: «در عصر هوش مصنوعی، سرعت تعیین‌کننده پیروزی است.»
گوگل تنها شرکت فناوری نیست که محصولات و خدمات خود را در اختیار بخش دفاعی قرار می‌دهد. چندین شرکت بزرگ دیگر، از جمله اوپن‌ای‌آی، مایکروسافت، آمازون، اوراکل، انویدیا، اسپیس‌ایکس و رفلکشن نیز قراردادهایی منعقد کرده‌اند که امکان استفاده از نرم‌افزارهای آن‌ها را در حوزه‌هایی مانند پشتیبانی لجستیکی، برنامه‌ریزی عملیاتی و مأموریت‌های میدانی فراهم می‌کند.
بخش قابل توجهی از این همکاری‌ها با سامانه‌هایی مانند «میون اسمارت سیستمز» (Maven Smart Systems) ارتباط دارد؛ پلتفرم مرکزی تحلیل داده که شرکت پالانتیر توسعه داده است و با بهره‌گیری از هوش مصنوعی شرکت‌های دیگر، به نیروهای عملیاتی در پردازش اطلاعات اطلاعاتی و شناسایی اهداف کمک می‌کند.
چالش نظارت انسانی و سرعت تصمیم‌گیری در میدان نبرد
توافق گوگل اجازه می‌دهد از فناوری این شرکت برای «هر هدف قانونی دولتی» استفاده شود. با این حال، در این توافق تأکید شده است که مدل‌های هوش مصنوعی نباید بدون نظارت و کنترل انسانی مناسب، در تسلیحات خودمختار یا نظارت گسترده بر شهروندان در داخل کشور به کار گرفته شوند.
با وجود این محدودیت‌ها، تحلیلگران دفاعی و مدیران سابق شرکت‌های فناوری تردید دارند که در شرایط پرفشار میدان نبرد بتوان نظارت انسانی مؤثری بر عملکرد این سامانه‌ها اعمال کرد.
سارا شوکر، مدیر سابق تیم ژئوپلیتیک اوپن‌ای‌آی، هشدار داد که سامانه‌های هوش مصنوعی زمان در دسترس برای واکنش در عملیات نظامی را به‌شدت کاهش می‌دهند. او توضیح داد: «وقتی صدها هدف به‌وسیله هوش مصنوعی انتخاب شده‌اند و زمان بسیار محدودی برای تصمیم‌گیری وجود دارد، تقریباً غیرممکن است که یک نیروی انسانی بتواند خروجی‌های هوش مصنوعی را به‌طور مؤثر از نظر وجود خطا بررسی کند.»
ژنرال بازنشسته جک شاناهان، نخستین مدیر پروژه میون، نیز هشدار مشابهی مطرح کرد. به گفته او، شتاب برای به‌کارگیری سریع سامانه‌های هوش مصنوعی ممکن است به کنار گذاشته شدن آزمایش‌های دقیق و انضباط سخت‌گیرانه‌ای منجر شود که در توسعه و استفاده از تجهیزات نظامی ضروری است.
تنش‌های داخلی و سابقه جنجال‌های نظامی گوگل
نارضایتی کارکنان گوگل از همکاری‌های دفاعی این شرکت موضوع تازه‌ای نیست. در سال ۲۰۱۸، اعتراض کارکنان باعث شد گوگل از همکاری اولیه خود در پروژه میون کنار بکشد؛ رویدادی که در نهایت به تدوین اصول رسمی هوش مصنوعی این شرکت انجامید. در سال‌های اخیر نیز مشارکت گوگل در کنار آمازون در پروژه نیمبوس، قراردادی ۱٫۲ میلیارد دلاری برای ارائه خدمات رایانش ابری و هوش مصنوعی به دولت اسرائیل، اعتراض‌هایی را برانگیخت و به اقدامات انضباطی علیه برخی کارکنان منجر شد.
شماری از کارکنان فعلی گوگل که به شرط ناشناس ماندن صحبت کرده‌اند، می‌گویند فضای داخلی شرکت به‌گونه‌ای شده است که کارکنان از ابراز مخالفت خودداری می‌کنند. آن‌ها به قراردادهای استخدامی محدودکننده‌ای اشاره می‌کنند که کارکنان را از اعتراض علنی بازمی‌دارد. برخی نیز هشدار داده‌اند که با خروج پژوهشگران باتجربه‌ای که مخالف قراردادهای نظامی هستند، ممکن است نیروهای تازه‌وارد به‌سادگی جای آن‌ها را بگیرند؛ روندی که می‌تواند به‌تدریج معیارهای فرهنگی و اخلاقی حاکم بر سازمان را تغییر دهد.
پاسخ گوگل به انتقادها
گوگل در دفاع از عملکرد خود اعلام کرد که همکاری‌های دفاعی این شرکت بر اساس معیارهای داخلی مشخص و با بررسی‌های دقیق انجام می‌شود.
یکی از سخنگویان گوگل گفت: «ما با سازمان‌های بخش عمومی در سراسر جهان همکاری می‌کنیم و برای بررسی و انعقاد این قراردادها، فرایندی یکسان را دنبال می‌کنیم. این فرایند شامل اطمینان از رعایت سیاست‌های استفاده مجاز از فناوری و اصول هوش مصنوعی شرکت نیز می‌شود.»
گوگل همچنین اعلام کرد که مسیرهای ارتباطی داخلی ویژه‌ای برای گزارش نگرانی‌های کارکنان درباره رفتار تجاری یا مسائل اخلاقی در نظر گرفته است. به گفته این شرکت، سیاست‌های مشخصی نیز برای جلوگیری از هرگونه اقدام تلافی‌جویانه علیه کارکنانی وجود دارد که چنین نگرانی‌هایی را مطرح می‌کنند.