موجۀ استعفا در گوگل در اعتراض به قراردادهای نظامی هوش مصنوعی
گوگل به‌دلیل استفاده از فناوری هوش مصنوعی خود در امور نظامی، با اعتراض شماری از کارکنانش روبه‌رو شده است.
بی‌بی‌سی با چند نفر از کارکنان حوزۀ فناوری گفت‌وگو کرده است که اخیراً از شرکت هوش مصنوعی گوگل، یعنی گوگل دیپ‌مایند، استعفا داده‌اند یا در حال ترک آن هستند. دلیل این افراد، نگرانی از قراردادهای نظامی این شرکت است.
سوفیا لیگوری، مهندس پژوهشگر مستقر در لندن، یکی از این افراد است. او این هفته از گوگل دیپ‌مایند استعفا داد و با وجود محدودیت‌های قرارداد کاری‌اش، به‌طور اختصاصی درباره نگرانی‌های خود با بی‌بی‌سی صحبت کرد.
لیگوری گفت: «وقتی می‌بینم شرکتم بیش از پیش به‌دنبال استفاده از سامانه‌های هوش مصنوعی در عملیات نظامی است، از اینکه در گوگل کار می‌کنم احساس شرمندگی می‌کنم.» او تأکید کرد که این سخنان را در مقام یک فرد و نه به نمایندگی از شرکت بیان می‌کند.
سخنگوی گوگل در پاسخ به بی‌بی‌سی گفت: «ما با سازمان‌های بخش عمومی در سراسر جهان همکاری می‌کنیم و برای بررسی و پذیرش این قراردادها، از جمله اطمینان از رعایت سیاست‌های استفادۀ مجاز و اصول هوش مصنوعی خود، روندی یکسان داریم.»
او افزود: «همچنین کانال‌های مشخصی در اختیار کارکنان قرار داده‌ایم تا بتوانند نگرانی‌های خود، از مسائل اخلاقی کسب‌وکار گرفته تا تخلفات، را با اطمینان مطرح کنند. سیاست‌های سخت‌گیرانه‌ای نیز در محیط کار داریم تا از هرگونه اقدام تلافی‌جویانه جلوگیری شود.»
گوگل یکی از چندین شرکت فناوری است که اوایل سال جاری میلادی با ارتش آمریکا قراردادهایی امضا کرد تا هوش مصنوعی در محیط‌های نظامی طبقه‌بندی‌شده به کار گرفته شود. پیت هگست، وزیر دفاع آمریکا، ادغام هوش مصنوعی در نیروهای مسلح را به یکی از اولویت‌های اصلی خود تبدیل کرده است. او گفته است دولت ترامپ ارتشی خواهد ساخت که در جنگیدن، «هوش مصنوعی را در اولویت قرار می‌دهد».
با این حال، فناوری هوش مصنوعی با سرعت زیادی در حال تحول است و منتقدان می‌پرسند آیا این فناوری بدون آزمایش‌های بیشتر، محدودیت‌های ایمنی قوی‌تر و نظارت انسانی، به‌اندازۀ کافی قابل اعتماد است که در جنگ به کار گرفته شود.
لیگوری گفت پس از سه سال کار در گوگل تصمیم گرفت استعفا دهد؛ تصمیمی که به افزایش همکاری این شرکت با ارتش‌های آمریکا و اسرائیل مربوط می‌شد. او گفت: «با این مسیر موافق نیستم و همین مسئله باعث شده است اعتمادم را به پایبندی شرکتم به ارزش‌های اخلاقی اعلام‌شده‌اش از دست بدهم.»
بر اساس اصول هوش مصنوعی گوگل، این ارزش‌ها شامل اجرای هوش مصنوعی با «نظارت انسانی» و همسو کردن این فناوری با «حقوق بین‌الملل و حقوق بشر» است. با این حال، کارکنان فعلی و پیشین شرکت و کارشناسانی که بی‌بی‌سی با آن‌ها گفت‌وگو کرده است، درباره میزان نظارت انسانی در لحظات حساس ابراز نگرانی کرده‌اند.
کارکنان شرکت‌های فناوری می‌گویند به‌ویژه از قراردادهای نظامی هوش مصنوعی که امسال امضا شده‌اند نگران‌اند، زیرا این توافق‌ها دامنه کاربردهایی را که پنتاگون می‌تواند از این فناوری در آن‌ها استفاده کند، به‌طور چشمگیری گسترش می‌دهد.
آندریاس کرش، پژوهشگر هوش مصنوعی، نیز اوایل همین ماه به‌دلیل نگرانی‌هایش از گوگل دیپ‌مایند استعفا داد.
کرش به بی‌بی‌سی گفت معتقد است «حاکمیت و سازوکارهای نظارتی گوگل به‌اندازۀ کافی مؤثر یا معنادار نیستند که بتوان هوش مصنوعی را در محیط‌های نظامی و طبقه‌بندی‌شده، ایمن و مسئولانه به کار گرفت» یا «در آینده ابرهوش مصنوعی را با ایمنی توسعه داد».
او افزود: «به نظر می‌رسد گوگل نه حق کنترل نحوۀ استفاده پنتاگون از هوش مصنوعی خود را دارد و نه می‌تواند آن را وتو کند. همچنین ظاهراً دید محدودی نسبت به نحوۀ به‌کارگیری این فناوری دارد.»
ارتش آمریکا طی چند سال گذشته فناوری‌های متعددی مبتنی بر هوش مصنوعی را برای تقویت توانایی‌های رزمی خود به کار گرفته است.
یکی از برجسته‌ترین نمونه‌ها، «مِیوِن اسمارت سیستمز» است؛ پلتفرم نرم‌افزاری اصلی پنتاگون برای سازمان‌دهی اطلاعات و داده‌ها.
این سامانه که شرکت دفاعی آمریکایی پالانتیر آن را توسعه داده است، از هوش مصنوعی برای کمک به نیروهای نظامی در انتخاب و شناسایی اهداف حمله استفاده می‌کند. پالانتیر فناوری چند شرکت پیشرو در حوزۀ هوش مصنوعی را در مِیوِن ادغام کرده و این کار باعث شده است برخی فرایندها به‌طور قابل توجهی سریع‌تر انجام شوند.
ژنرال بازنشسته جک شاناهان، مدیر پیشین پروژۀ مِیوِن، گفت به نظر می‌رسد «فلسفۀ» حاکم بر این روند چنین است: «فناوری هوش مصنوعی را با بیشترین سرعت ممکن و در گسترده‌ترین سطح ممکن به کار بگیرید؛ حتی اگر این کار به بهای کاهش دقت و انضباط در آزمایش و ارزیابی تمام شود.»
با این حال، پنتاگون همچنان تأکید دارد که پذیرش فناوری‌های هوش مصنوعی برای پیروزی در جنگ ضروری است. امیل مایکل، یکی از معاونان وزارت دفاع آمریکا، اوایل امسال در بیانیه‌ای گفت: «در عصر هوش مصنوعی، سرعت تعیین‌کنندۀ پیروزی است.»
قرارداد گوگل با پنتاگون که اوایل سال جاری امضا شد، استفاده از فناوری هوش مصنوعی این شرکت را در فعالیت‌های نظامی طبقه‌بندی‌شده مجاز می‌کند. در این توافق آمده است که مدل‌های هوش مصنوعی گوگل می‌توانند برای «هر هدف قانونی دولت» به کار روند، اما «نباید بدون نظارت و کنترل انسانی مناسب برای نظارت انبوه داخلی یا تسلیحات خودمختار، از جمله انتخاب هدف، استفاده شوند».
شرکت‌های اوپن‌ای‌آی، آمازون، مایکروسافت، اسپیس‌ایکس، اوراکل، انویدیا و شرکت نوپای رفلکشن نیز قراردادهای مشابهی امضا کرده‌اند تا فناوری هوش مصنوعی در حوزه‌های گوناگون نظامی، از حمل‌ونقل و برنامه‌ریزی گرفته تا عملیات میدان نبرد، به کار گرفته شود.
با پیشرفت سریع این فناوری، نگرانی‌ها درباره استفاده از هوش مصنوعی در مناطق جنگی نیز افزایش یافته است.
سارا شوکر، رئیس پیشین تیم ژئوپلیتیک اوپن‌ای‌آی، گفت: «هوش مصنوعی زمان در اختیار اپراتور برای تصمیم‌گیری را کوتاه می‌کند، زیرا بسیار سریع‌تر از انسان عمل می‌کند؛ این مسئله به‌ویژه در محیط‌های پراسترس خطرناک است.»
او افزود: «وقتی صدها هدف به کمک هوش مصنوعی انتخاب می‌شوند و زمان محدودی وجود دارد، تقریباً ناممکن است که یک اپراتور انسانی بتواند خروجی‌های هوش مصنوعی را به‌طور معنادار بررسی کند و خطاهای احتمالی را تشخیص دهد.»
کارکنان گوگل به بی‌بی‌سی گفته‌اند که از اظهارنظر علنی درباره ایمنی هوش مصنوعی و کاربرد آن در جنگ هراس دارند، زیرا قراردادهای کاری‌شان آن‌ها را از انتقاد عمومی از شرکت منع می‌کند.
سوفیا لیگوری به بی‌بی‌سی گفت: «در اصل، طبق قراردادم اجازه ندارم در تمام طول عمرم از گوگل انتقاد کنم.» با این حال، او تصمیم گرفت درباره این موضوع صحبت کند، «چون معتقدم مهم است مردم از این مسائل آگاه شوند و همچنین فکر می‌کنم بیان واقعیت‌ها به معنای انتقاد کردن نیست».
لیگوری افزود که در گوگل «مردم از اقدام تلافی‌جویانه و به خطر افتادن مسیر شغلی‌شان می‌ترسند. احساس می‌کنید زیر نظر هستید و نمی‌توانید حرف بزنید».
یکی از کارکنان فعلی گوگل دیپ‌مایند که به‌دلیل ترس از اقدام تلافی‌جویانه نخواست نامش فاش شود، به بی‌بی‌سی گفت: «ممکن است بسیاری از کارکنان باانگیزه‌ای که با هدف اولیه شرکت به آن پیوسته بودند، آن را ترک کنند؛ اما در عین حال، افرادی در ابتدای مسیر شغلی خود هستند که می‌توانند جای آن‌ها را بگیرند. شاید شاهد تغییر نسل کارکنان باشیم.»
یکی دیگر از کارکنان گوگل دیپ‌مایند که او نیز خواست نامش محفوظ بماند، به بی‌بی‌سی گفت: «افراد زیادی شرکت را ترک کرده‌اند؛ کسانی که نسبت به این موضوع، یعنی تغییر موضع اخلاقی گوگل دیپ‌مایند، حساسیت جدی دارند.»
این کارمند افزود: «بعضی‌ها در برابر این روند مقاومت می‌کنند و بعضی دیگر با خودشان فکر می‌کنند: شرکت بزرگی است؛ انتظار دارید چه چیزی را بتوانید تغییر دهید؟»
توافق‌های گوگل با اسرائیل نیز بحث‌برانگیز بوده است. در سال ۲۰۲۴، کارکنان این شرکت از قرارداد مشترک گوگل و آمازون به ارزش ۱٫۲ میلیارد دلار، معادل ۹۶۰ میلیون پوند، انتقاد کردند. این قرارداد که «پروژۀ نیمبوس» نام دارد، زیرساخت رایانش ابری و فناوری هوش مصنوعی را در اختیار دولت و ارتش اسرائیل قرار می‌دهد. گوگل در آن زمان اعلام کرد که پروژۀ نیمبوس «برای فعالیت‌های بسیار حساس و طبقه‌بندی‌شده یا مأموریت‌های نظامی مرتبط با تسلیحات یا سرویس‌های اطلاعاتی در نظر گرفته نشده است».
علاوه بر این، توانایی‌های اسرائیل در استفاده از هوش مصنوعی در جنگ پس از نمایش آن‌ها در مستند اخیر «نازا» به موضوع بحث تبدیل شده است. این مستند نقش سامانه‌های هدف‌گیری مبتنی بر هوش مصنوعی در بمباران نوار غزه و افزایش تلفات غیرنظامیان را بررسی می‌کند. یکی از وزیران دولت اسرائیل گفته است ادعاهای مطرح‌شده در این فیلم نادرست و تحریف‌شده‌اند.
آندریاس کرش، کارمند پیشین گوگل، معتقد است فناوری هوش مصنوعی هنوز برای استفاده در میدان نبرد آماده نیست. او گفت: «مدل‌های کنونی هوش مصنوعی به‌اندازۀ کافی قابل اتکا نیستند و فکر نمی‌کنم اساساً برای انجام چنین وظایفی آموزش دیده باشند.»
گزارش تکمیلی: رزا رحیمی