استعفای کارکنان گوگل دیپ‌مایند در اعتراض به همکاری‌های نظامی با پنتاگون و نگرانی‌های اخلاقی
گوگل با واکنش منفی کارکنان خود به دلیل گسترش فعالیت‌هایش در حوزه هوش مصنوعی نظامی روبه‌رو شده است. برخی از کارکنان گوگل دیپ‌مایند نیز به‌دلیل نگرانی‌های اخلاقی استعفا داده‌اند. این کناره‌گیری‌ها پرسش‌هایی را درباره خطرات استفاده از هوش مصنوعی در جنگ و این موضوع مطرح کرده است که آیا نظارت انسانی می‌تواند هم‌پای پیشرفت این فناوری و ادغام گسترده‌تر آن در عملیات نظامی پیش برود یا خیر.
چرا کارکنان گوگل دیپ‌مایند استعفا می‌دهند؟
به گزارش بی‌بی‌سی، سوفیا لیگوری، مهندس پژوهشی مستقر در لندن، پس از سه سال فعالیت در گوگل دیپ‌مایند از این شرکت استعفا داد. او گفته است که گسترش مشارکت شرکت در حوزه هوش مصنوعی نظامی، تردیدهایی را درباره پایبندی آن به اصول اخلاقی در ذهنش ایجاد کرده است.
لیگوری به بی‌بی‌سی گفت: «وقتی متوجه می‌شوم شرکتم بیش از پیش در پی توسعه استفاده از سامانه‌های هوش مصنوعی در عملیات نظامی است، از اینکه در گوگل کار می‌کنم احساس شرمندگی می‌کنم.»
آندریاس کرش، پژوهشگر هوش مصنوعی، نیز به‌دلیل نگرانی درباره سازوکارهای مدیریتی و نظارتی شرکت استعفا داد. او این پرسش را مطرح کرد که آیا گوگل می‌تواند به‌اندازه کافی بر نحوه استفاده ارتش آمریکا از فناوری‌هایش نظارت کند؛ به‌ویژه در محیط‌های محرمانه‌ای که اطلاعات مربوط به فعالیت‌ها در آن‌ها در دسترس عموم نیست.
این نگرانی‌ها در شرایطی مطرح می‌شوند که گوگل و چند شرکت فناوری دیگر توافق‌هایی امضا کرده‌اند که بر اساس آن‌ها، سامانه‌های هوش مصنوعی این شرکت‌ها می‌توانند در محیط‌های محرمانه نظامی آمریکا به کار گرفته شوند.
نگرانی‌ها درباره استفاده از هوش مصنوعی در جنگ
وزارت دفاع آمریکا، ادغام هوش مصنوعی در فعالیت‌های نظامی را در اولویت قرار داده است. پیت هگست، وزیر دفاع این کشور، گفته است که آمریکا قصد دارد به نیروی نظامی‌ای تبدیل شود که هوش مصنوعی در محور فعالیت‌های آن قرار دارد. این اظهارات در گزارشی از بی‌بی‌سی درباره برنامه‌های پنتاگون منتشر شده است.
بااین‌حال، منتقدان معتقدند سامانه‌های هوش مصنوعی که به‌سرعت در حال تکامل‌اند، پیش از استفاده در تصمیم‌گیری‌های حساس نظامی به آزمایش‌های بیشتر و تدابیر حفاظتی دقیق‌تری نیاز دارند.
سارا شوکر، رئیس پیشین تیم ژئوپلیتیک شرکت اوپن‌ای‌آی، هشدار داده است که هوش مصنوعی ممکن است فرصت در اختیار اپراتورهای انسانی برای ارزیابی اهداف احتمالی را کاهش دهد. به گفته او، وقتی سامانه‌ها در مدت کوتاهی تعداد زیادی پیشنهاد تولید می‌کنند، بررسی تک‌تک خروجی‌ها برای شناسایی خطاها دشوارتر می‌شود.
محور اصلی این بحث آن است که آیا نظارت انسانی همچنان می‌تواند نقشی مؤثر داشته باشد، درحالی‌که از نیروهای نظامی انتظار می‌رود تصمیم‌های خود را با سرعت بالا اتخاذ کنند.
موضع گوگل درباره اصول هوش مصنوعی خود
گوگل از رویکرد خود دفاع کرده و گفته است که قراردادهای بخش عمومی را از نظر انطباق با سیاست‌ها و اصول هوش مصنوعی این شرکت بررسی می‌کند. سخنگوی شرکت همچنین اعلام کرده است که کارکنان به کانال‌های مشخصی برای مطرح کردن نگرانی‌های خود دسترسی دارند و سیاست‌های محیط کار، هرگونه اقدام تلافی‌جویانه علیه آن‌ها را ممنوع می‌کند.
در اصول هوش مصنوعی گوگل بر نظارت انسانی و پایبندی به قوانین بین‌المللی و حقوق بشر تأکید شده است.
بااین‌حال، برخی کارکنان فعلی و سابق گوگل به بی‌بی‌سی گفته‌اند که همچنان درباره نحوه اجرای این تعهدات در محیط‌های نظامی محرمانه نگران‌اند. آن‌ها همچنین گفته‌اند که بیم دارند اظهارنظر علنی درباره فعالیت‌های نظامی شرکت، موقعیت شغلی و آینده حرفه‌ای‌شان را به خطر بیندازد.