استعفای کارکنان گوگل دیپ‌مایند در اعتراض به توافق هوش مصنوعی با پنتاگون دولت ترامپ
چند نفر از کارکنان گوگل دیپ‌مایند در هفته‌های اخیر، در اعتراض به قرارداد پنتاگون با این شرکت که اوایل سال جاری میلادی امضا شد و امکان استفاده از فناوری هوش مصنوعی گوگل را در محیط‌های محرمانه فراهم می‌کند، استعفا داده‌اند.
شبکه خبری بی‌بی‌سی گزارش می‌دهد که سوفیا لیگوری، مهندس پژوهشی مستقر در لندن، پس از سه سال فعالیت در گوگل دیپ‌مایند، این هفته شرکت را ترک کرد. او در گفت‌وگو با بی‌بی‌سی، با وجود بندی در قراردادش که چنین اظهارنظرهایی را محدود می‌کند، تأکید کرد که از جانب شخصی خود صحبت می‌کند و گفت: «وقتی متوجه می‌شوم شرکتم بیش از پیش به سمت استفاده از سامانه‌های هوش مصنوعی در عملیات نظامی حرکت می‌کند، از اینکه در گوگل کار می‌کنم احساس شرمندگی می‌کنم.»
لیگوری گفت اعتمادش را به پایبندی شرکت به معیارهای اخلاقی اعلام‌شده خودش از دست داده است. او اظهار داشت: «با این مسیری که شرکت در پیش گرفته موافق نیستم و همین موضوع باعث شده اعتمادم را به اینکه شرکت واقعاً به ارزش‌های اخلاقی اعلام‌شده‌اش پایبند باشد، از دست بدهم.» او همچنین گفت شرایط ترک شرکت، امکان اظهارنظر انتقادی در آینده را به‌شدت محدود می‌کند: «در اصل، اجازه ندارم تا پایان عمرم از گوگل انتقاد کنم.»
لیگوری تنها فردی نیست که در اعتراض به این وضعیت شرکت را ترک کرده است. آندریاس کیرش، پژوهشگر هوش مصنوعی، نیز اوایل همین ماه به دلیل نگرانی‌های مشابه از گوگل دیپ‌مایند استعفا داد. او به بی‌بی‌سی گفت: «سازوکارهای حاکمیتی و نظارتی گوگل به‌اندازه کافی مؤثر یا معنادار نیستند تا بتوان هوش مصنوعی را در محیط‌های نظامی و محرمانه به شکلی ایمن و مسئولانه به کار گرفت.»
کیرش گفت می‌خواهد «در آینده به توسعه ابرهوش مصنوعی به شکلی ایمن کمک کند» و این پرسش را مطرح کرد که گوگل پس از رسیدن فناوری‌اش به میدان نبرد تا چه اندازه بر نحوه استفاده از آن کنترل دارد. او گفت: «به نظر می‌رسد گوگل نه حق کنترل یا وتوی نحوه استفاده پنتاگون از هوش مصنوعی خود را دارد و نه دید کافی و شفافی درباره چگونگی به‌کارگیری آن.»
این استعفاها در پی قراردادی صورت گرفته‌اند که گوگل اوایل سال جاری میلادی با ارتش ایالات متحده امضا کرد تا هوش مصنوعی این شرکت در محیط‌های محرمانه به کار گرفته شود. شرکت‌های اوپن‌ای‌آی، آمازون، مایکروسافت، اسپیس‌ایکس، اوراکل و انویدیا، همچنین شرکت نوپای رفلکشن، نیز توافق‌های مشابهی امضا کرده‌اند.
این روند هم‌زمان با تلاش گسترده‌تر پنتاگون برای تسریع به‌کارگیری هوش مصنوعی در جریان است. پیت هگست، وزیر جنگ آمریکا، در ژانویه گفت ایالات متحده «به نیرویی نظامی تبدیل خواهد شد که هوش مصنوعی در مرکز فعالیت‌های آن قرار دارد». امیل مایکل، یکی از معاونان وزارت دفاع، نیز امسال در بیانیه‌ای اعلام کرد: «در عصر هوش مصنوعی، پیروزی را سرعت تعیین می‌کند.»
این تأکید بر سرعت، انتقادهایی را نیز برانگیخته است. جک شاناهان، سپهبد بازنشسته و مدیر پیشین پروژه مِیوِن، رویکرد پنتاگون را تلاشی برای «استقرار [فناوری هوش مصنوعی] با بیشترین سرعت ممکن و در گسترده‌ترین مقیاس ممکن توصیف کرده است؛ رویکردی که ممکن است به بهای کاهش دقت و انضباط در آزمون و ارزیابی تمام شود».
مِیوِن اسمارت سیستمز، پلتفرم نرم‌افزاری اصلی پنتاگون برای سازمان‌دهی اطلاعات و داده‌ها، به دست شرکت دفاعی پالانتیر توسعه یافته است. این سامانه از هوش مصنوعی کمک می‌گیرد تا کارکنان نظامی بتوانند اهداف حمله را شناسایی و انتخاب کنند. پالانتیر فناوری‌های چند شرکت پیشرو در حوزه هوش مصنوعی را نیز در سامانه مِیوِن ادغام کرده است.
بر اساس متن قرارداد، گوگل اجازه داده است از هوش مصنوعی این شرکت برای «هر هدف قانونی دولت» استفاده شود. با این حال، در قرارداد آمده است که این فناوری «نباید برای نظارت انبوه داخلی یا تسلیحات خودمختار، از جمله انتخاب اهداف، بدون نظارت و کنترل انسانی مناسب به کار گرفته شود».
بریتابارت نیوز پیش‌تر گزارش داده بود که یکی از پژوهشگران سرشناس هوش مصنوعی گوگل در اعتراض به همکاری کارفرمایش با پنتاگون استعفا کرده و گفته بود از این همکاری «به‌شدت شرمنده» است:
آندریاس کیرش، پژوهشگر ارشد گوگل دیپ‌مایند، روز سه‌شنبه در پیامی در شبکه اجتماعی ایکس، به‌شدت از تازه‌ترین توافق شرکت با پنتاگون انتقاد کرد. او نوشت: «از اینکه گوگل قراردادی برای استفاده از مدل‌های هوش مصنوعی ما در مأموریت‌های محرمانه امضا کرده، واقعاً حرفی برای گفتن ندارم. صادقانه بگویم، این کار شرم‌آور است.»
این توافق با وجود مخالفت‌های جدی در داخل شرکت منعقد شد. بیش از ۶۰۰ نفر از کارکنان گوگل در نامه‌ای به سوندار پیچای، مدیرعامل شرکت، از او خواسته بودند مانع استفاده پنتاگون از هوش مصنوعی گوگل در عملیات محرمانه شود.
کیرش در گفت‌وگو با بیزنس اینسایدر گفت: «وقتی دیشب به خواب رفتم، امیدوار بودم نامه کارکنان تأثیرگذار باشد و فرصتی برای مکث و بررسی موضوع در اختیارمان بگذارد.» او در یک پیام متنی افزود: «اما صبح که بیدار شدم، دیدم گوگل در همین فاصله بدترین شکل ممکن از این قرارداد را امضا کرده است.»
کارکنان گوگل که دیدگاه‌های به‌شدت چپ‌گرایانه دارند، علاقه‌ای به حمایت از آمریکا و دفاع از کشورشان ندارند. وینتون هال، مدیر شبکه‌های اجتماعی بریتابارت نیوز، کتاب پرفروش خود در نیویورک‌تایمز با عنوان کد قرمز: چپ، راست، چین و رقابت برای کنترل هوش مصنوعی را نوشته است تا راهنمایی جامع درباره این موضوع ارائه دهد که جنبش ماگا چگونه می‌تواند مواضعی در حوزه هوش مصنوعی اتخاذ کند که به نفع بشریت باشد، بی‌آنکه کنترل کشور را به چپ‌گرایان سیلیکون‌ولی واگذار کند یا اجازه دهد چین بر جهان مسلط شود.
لوکاس نولان خبرنگار بریتابارت نیوز است و موضوعات مرتبط با هوش مصنوعی، آزادی بیان و سانسور آنلاین را پوشش می‌دهد.