چگونه هوش مصنوعی مولد سرکوب فرامرزی را گسترش می‌دهد
یک عامل همسو با چین از Claude، دستیار هوش مصنوعی مولد شرکت Anthropic، برای ردیابی اویغورهای ساکن سوریه و جذب خبرچینان احتمالی در این جامعه استفاده کرد. این مدل، پیام‌ها را ترجمه می‌کرد، ارتباطات را به زبان‌های محلی تسهیل می‌کرد و موقعیت جغرافیایی افراد را مشخص می‌ساخت تا افراد به‌ویژه آسیب‌پذیر، از جمله کسانی که با مشکلات مالی روبه‌رو بودند یا از اعضای خانواده خود در سین‌کیانگ، منطقه خودمختار در شمال‌غرب چین که خانه اکثریت جمعیت اویغور است، جدا مانده بودند، شناسایی شوند. Claude به این افراد کمک کرد تا ردپاهای پراکنده دیجیتال را به اطلاعات هدفمند تبدیل کنند و دامنه نظارت چین بر یک اقلیت قومی تحت سرکوب را افزایش دهند.
این مورد یکی از چندین نمونه استفاده از هوش مصنوعی برای سرکوب دیجیتال فرامرزی است که در گزارش اخیر تیم اطلاعات تهدیدات Anthropic، منتشرشده در ۱۰ سپتامبر ۲۰۲۶، تشریح شده است. این گزارش شواهد مستقیمی ارائه می‌کند که نشان می‌دهد هوش مصنوعی مولد وارد سازوکار سرکوب فرامرزی شده و به دولت‌های اقتدارگرا و نیروهای وابسته به آنها امکان می‌دهد فرایندهایی مقیاس‌پذیر برای شناسایی، نظارت و هدف قرار دادن فعالان مهاجر و مخالفان تبعیدی در سراسر جهان ایجاد کنند.
از آنجا که این عملیات افراد را در حوزه‌های قضایی مختلف هدف قرار می‌دهد و می‌تواند زمینه را برای اعمال فشار و اجبار در دنیای واقعی فراهم کند، شرکت‌های هوش مصنوعی باید سرکوب فرامرزی را به‌عنوان یک دسته تهدید مستقل، جدا از نظارت داخلی و عملیات نفوذ، در نظر بگیرند. شرکت‌های پیشرو در حوزه هوش مصنوعی، یعنی شرکت‌هایی که مدل‌های بسیار توانمند و عمومی می‌سازند، باید از رویکرد Anthropic پیروی کنند و گزارش‌های جزئی درباره موارد سرکوب دیجیتال فرامرزی منتشر کنند. آنها همچنین باید پروتکل‌هایی برای شناسایی این تهدید، اطلاع‌رسانی عمومی به جوامع آسیب‌دیده و حفظ شواهد به‌دست‌آمده در تحقیقات تهدیدات خود ایجاد کنند. چنین اقداماتی می‌تواند سوءاستفاده دولت‌های سرکوبگر از فناوری آمریکایی برای اعمال فشار در خارج از مرزهایشان را کاهش دهد و از گروه‌های آسیب‌پذیری که هدف قرار گرفته‌اند بهتر محافظت کند.
سرکوب دیجیتال فرامرزی با کمک هوش مصنوعی
سرکوب دیجیتال فرامرزی به استفاده یک دولت از فناوری‌های دیجیتال برای ارعاب و خاموش کردن مخالفان و دیگر رقبای سیاسی ساکن تبعید یا جوامع مهاجر گفته می‌شود. دولت‌ها با روش‌هایی از هک و نظارت گرفته تا آزار آنلاین و بدنام‌سازی هماهنگ، دامنه اعمال فشار سیاسی را به سرزمین‌های دیگر و زندگی شخصی اهداف خود گسترش می‌دهند. افزون بر این، چنین حملات دیجیتالی می‌تواند زمینه‌ساز تهدیدهای فیزیکی علیه تبعیدیان، از جمله تعقیب، حمله، ربایش و حتی ترور شود.
سرکوب فرامرزی می‌تواند پیامدهای ویرانگری برای افراد هدف و همچنین ساختار کلی دموکراسی داشته باشد. مصاحبه‌های ما با افراد آسیب‌دیده نشان می‌دهد که تهدیدهای دیجیتال فرامرزی در میان تبعیدیان و جوامع مهاجر اضطراب، ترس و عدم اطمینان ایجاد می‌کند، احساس امنیت و رفاه آنها را کاهش می‌دهد، روابط اجتماعی را تضعیف و موجب انزوا می‌شود، خودسانسوری را افزایش می‌دهد و افراد را از فعالیت مدنی دور می‌کند. به‌طور خلاصه، سرکوب دیجیتال فرامرزی توانایی جامعه مدنی برای استفاده آزادانه از ابزارهای دیجیتال جهت ارتباط، سازمان‌دهی و بسیج در آن سوی مرزها را به‌شدت محدود می‌کند.
هشدارهای پیشین درباره استفاده از هوش مصنوعی در سرکوب دیجیتال فرامرزی اغلب بر اساس توانایی‌های این فناوری مطرح شده بودند، نه نمونه‌های عینی. گزارش Anthropic بینش‌های کم‌سابقه‌ای درباره چگونگی استفاده بازیگران دولتی از مدل‌های پیشرفته برای گسترش ابزارهای سرکوب خود، هم در داخل کشورها و هم در سطح فرامرزی، ارائه می‌دهد. این گزارش نشان می‌دهد مدل‌های هوش مصنوعی چگونه می‌توانند سرکوب دیجیتال فرامرزی را تقویت کنند و گسترش سیاست‌های اقتدارگرایانه و سرکوبگرانه را فراتر از مرزهای کشورهای عامل تسهیل کنند.
قابلیت‌هایی که در گزارش شناسایی شده‌اند
نخست، گزارش Anthropic نشان می‌دهد هوش مصنوعی با کاهش هزینه‌های عملیاتی، سرکوب را در دسترس‌تر می‌کند. عملیات سرکوب دیجیتال معمولاً به مهارت‌های زبانی، تحلیلگران اطلاعاتی آموزش‌دیده و مهندسان نرم‌افزار وابسته بوده است. نمونه‌های این گزارش نشان می‌دهد هوش مصنوعی می‌تواند بخشی از این تخصص‌ها را جایگزین کند. در کارزار علیه اویغورها در سوریه، عاملان با استفاده از Claude اهداف را بر اساس آسیب‌پذیری‌هایشان دسته‌بندی کردند و متنی برای جذب نیرو به زبان عربی محلی سوریه ساختند، با وجود اینکه خودشان عربی نمی‌دانستند. در سه عملیات نفوذ وابسته به دولت ایران نیز عاملان از این مدل برای طراحی برنامه‌های پیچیده، دستورالعمل‌های عملیاتی و سامانه‌های هویت‌سازی استفاده کردند؛ این فعالیت‌ها به چند زبان انجام شد تا روایت‌های حکومت را ترویج و افراد مختلف، از جمله اقلیت مذهبی بهایی تحت فشار و مخالفان ایرانی در داخل و خارج کشور، هدف قرار داده شوند.
دوم، مدل‌های هوش مصنوعی برای تبدیل ردپاهای دیجیتال به اطلاعات جزئی درباره اهداف مشخص استفاده می‌شوند. جوامع مهاجر حجم زیادی از داده‌های عمومی را در شبکه‌های اجتماعی، پیام‌رسان‌ها، پایگاه‌های داده عمومی و وب‌سایت‌های سازمانی تولید می‌کنند. دستیارهای هوش مصنوعی می‌توانند این داده‌های پراکنده را دریافت کرده و آنها را به گزارش‌های اطلاعاتی دقیق تبدیل کنند. این گزارش‌ها می‌توانند شبکه‌های اجتماعی و روابط افراد را بازسازی کنند، وابستگی‌های سیاسی را حدس بزنند، موقعیت مکانی را مشخص کنند و حتی نقاط آسیب‌پذیری را شناسایی کنند.
در یک مورد، یک شرکت اطلاعاتی تجاری که احتمالاً برای مشتریان عرب‌زبان در منطقه خلیج فارس فعالیت می‌کرد، پلتفرمی برای تحلیل فعالیت کاربران مهاجر در شبکه‌های اجتماعی ایجاد کرده بود که موقعیت آنها را روی نقشه مشخص و آنها را به دو دسته حامی دولت یا مخالف تقسیم می‌کرد. Anthropic پیش از راه‌اندازی این عملیات آن را متوقف کرد.
سوم، Claude در فرایندهای استانداردشده‌ای ادغام شده که به‌طور مکرر اطلاعات اهداف را در آن سوی مرزها جمع‌آوری می‌کنند. عاملان سرکوبگر از مدل‌ها برای ساخت سامانه‌های کامل نظارتی و زیرساخت‌های پشتیبان استفاده می‌کنند و به گروه‌های کوچک انسانی اجازه می‌دهند گزارش‌های نظارتی تکرارشونده و تا حدی خودکار را مدیریت کنند. در یک نمونه، یک پیمانکار امنیتی چینی از Claude برای تولید گزارش‌های روزانه «افکار عمومی» برای مقام‌های دولتی استفاده کرد که «مخالفان، فعالان، اقلیت‌های قومی، جوامع مهاجر چینی و رسانه‌های خارجی را به‌عنوان تهدیدی برای ثبات سیاسی فهرست می‌کرد». این عامل همچنین سامانه‌ای ایجاد کرد که بررسی خودکار ۱۵ تا ۳۰ یا بیشتر مقاله رسانه‌های خارجی در روز را امکان‌پذیر می‌کرد. گزارش‌های حاصل شامل توصیه‌هایی برای اقدامات اجرایی دولت بود و نظارت بر جوامع خارج از کشور را به یک فرایند اداری روزمره تبدیل می‌کرد.
در نهایت، این گزارش تأیید می‌کند که نظارت مبتنی بر هوش مصنوعی می‌تواند به اقدامات واقعی سرکوب فرامرزی منجر شود. این فناوری اطلاعاتی تولید می‌کند که می‌تواند برای نظارت فیزیکی، اجبار، جذب خبرچین، اعزام نیرو و مختل کردن فعالیت‌های جامعه مدنی به کار رود. برای نمونه، در کارزار علیه اویغورهای سوریه، عاملان از Claude برای شناسایی موقعیت فیزیکی اهداف و اعضای خانواده آنها که می‌توانستند به‌عنوان اهرم فشار استفاده شوند، بهره بردند. عملیات‌های دیگر نیز از هوش مصنوعی برای شناسایی فضاهای فیزیکی محل سازمان‌دهی جوامع مهاجر استفاده کردند. در یک عملیات وابسته به چین علیه اقلیت‌های مذهبی، Claude به تهیه پرونده‌های نظارتی قابل اقدام شامل «نقشه‌های داخلی، نماها و نمودارهای ساختاری» مکان‌های مذهبی کمک کرد. در نمونه‌ای دیگر، یک عامل مرتبط با چین درباره مسیر یک اعتراض در ونکوور، رویدادهای اویغورها در ترکیه و مجمع آزادی اسلو تحقیق کرد. هرچند گزارش ثابت نمی‌کند این بررسی‌ها به حملات فیزیکی منجر شده‌اند، این موارد نشان می‌دهند تحلیل‌های مبتنی بر هوش مصنوعی چگونه می‌توانند به دولت‌ها برای نظارت، ارعاب و تهدید فعالان خارج از مرزهایشان کمک کنند.
گزارش Anthropic تنها بازتاب‌دهنده میزان مشاهده و توانایی شناسایی یک شرکت در یک بازه زمانی کوتاه است. همچنین برخی انتساب‌های آن با سطح اطمینان محدود بیان شده‌اند؛ برای مثال، Anthropic همیشه نتوانسته با قطعیت مشخص کند که آیا یک اقدام توسط پیمانکار وابسته به دولت انجام شده است یا خیر. با این حال، اهمیت این گزارش در جزئیات عملیاتی آن است. موارد بررسی‌شده نشان می‌دهند قابلیت‌های مخربی که پیش‌تر به‌عنوان احتمال آینده یا نمونه‌های پراکنده مطرح می‌شدند، اکنون در شیوه‌های نظارت و اعمال فشار فرامرزی با گستردگی بیشتری به کار گرفته می‌شوند. این مشاهدات در مجموع نشان‌دهنده تغییری نگران‌کننده در سرعت و مقیاس سرکوب دیجیتال فرامرزی است و پرسش‌های فوری درباره مسئولیت شرکت‌هایی که مدل‌هایشان چنین کاربردهایی را ممکن می‌کند، مطرح می‌سازد.
نگاهی به آینده: سه توصیه برای شرکت‌های هوش مصنوعی
استفاده از مدل‌های هوش مصنوعی برای تسهیل سرکوب دیجیتال فرامرزی نشان می‌دهد فناوری تولیدشده توسط شرکت‌هایی مانند Anthropic می‌تواند آثار منفی بر حقوق بشر داشته باشد. سرکوب دیجیتال فرامرزی دست‌کم شامل نقض حقوق مربوط به حریم خصوصی، آزادی بیان و تجمع مسالمت‌آمیز است. مدل‌های هوش مصنوعی این نقض‌ها را تسهیل و تقویت می‌کنند، زیرا توسعه ابزارهای مختلف نظارتی، از پایش محتوای شبکه‌های اجتماعی تا نصب جاسوس‌افزارهای تجاری، برای دولت‌ها آسان‌تر می‌شود. اصول راهنمای سازمان ملل درباره کسب‌وکار و حقوق بشر (UNGPs) از شرکت‌ها می‌خواهد پیامدهای منفی حقوق بشری مرتبط با فعالیت‌هایشان را مدیریت کنند. شرکت‌های هوش مصنوعی برای کاهش این آسیب‌ها باید روی سه حوزه تمرکز کنند: (۱) افشای رخدادها و اشتراک‌گذاری اطلاعات؛ (۲) شناسایی تهدید و رد درخواست‌های مخرب؛ و (۳) حفظ شواهد دیجیتال.
آزمایشگاه‌های هوش مصنوعی باید سامانه‌های استانداردی برای افشای تهدید و اطلاع‌رسانی به جوامع ایجاد کنند: گزارش سپتامبر Anthropic ارزشمند است، زیرا جزئیات مشخصی درباره تهدیدهای احتمالی و جاری تسهیل‌شده توسط Claude ارائه می‌دهد. شرکت‌های پیشرو دیگر مانند OpenAI، DeepMind و xAI ممکن است با فعالیت‌های مشابهی روبه‌رو باشند، اما نبود گزارش‌دهی استاندارد ارزیابی این موضوع را دشوار می‌کند. گزارش عمومی و به‌موقع تهدیدها به جوامع هدف کمک می‌کند در برابر خطرات واکنش نشان دهند.
شرکت‌ها باید با پژوهشگران و جامعه مدنی همکاری کنند تا مشخص شود یک پروتکل مسئولانه اطلاع‌رسانی تهدید چگونه باید باشد. بسیاری از شرکت‌های فناوری، از جمله Google و Apple، فرایندهایی برای اطلاع‌رسانی به مشتریانی که هدف عملیات‌های وابسته به دولت قرار گرفته‌اند ایجاد کرده‌اند. شرکت‌های هوش مصنوعی با محدودیت‌های متفاوتی روبه‌رو هستند، زیرا جوامع هدف الزاماً مشتری آنها نیستند. با این حال، اقداماتی امکان‌پذیر است. شرکت‌های هوش مصنوعی هم‌اکنون شرکت‌هایی را که توسط عامل‌های هوش مصنوعی آنها هک شده‌اند مطلع می‌کنند، بنابراین نوعی اطلاع‌رسانی منطقی در سطح جامعه، با قالب و زبانی قابل دسترس برای جامعه هدف، اقدامی عملی است.
آزمایشگاه‌های هوش مصنوعی باید تدابیر ایمنی ویژه سرکوب دیجیتال فرامرزی را برای شناسایی تهدید و رد درخواست‌ها تقویت کنند: همکاری با پژوهشگران این حوزه برای بهبود شناسایی درخواست‌های مرتبط با سرکوب دیجیتال فرامرزی و رد آنها، باعث می‌شود این تهدید همزمان با پیشرفت قابلیت‌های هوش مصنوعی محدود بماند. گزارش نشان می‌دهد Anthropic در بسیاری از موارد توانسته عملیات‌ها را پیش از گسترش متوقف کند. با این حال، در برخی موارد عاملان تهدید با بازنویسی درخواست‌ها توانسته‌اند محدودیت‌ها را دور بزنند. این اتفاق در یکی از موارد نظارت داخلی چین رخ داد؛ جایی که درخواست‌های یک دانشجوی آکادمی پلیس برای تهیه گزارش‌های نظارتی ابتدا رد شد، اما پس از درخواست دوباره پذیرفته شد و به شناسایی ۱۰ نفر برای هدف‌گیری پلیس انجامید. سامانه‌های شناسایی نباید فقط بر زبان آشکارا سرکوبگرانه تمرکز کنند، بلکه باید ترکیبی از قابلیت‌ها مانند پایش شبکه‌های اجتماعی، مکان‌یابی، تحلیل آسیب‌پذیری و استنباط سیاسی را که در کنار هم نشان‌دهنده یک فرایند سرکوب دیجیتال فرامرزی هستند، تشخیص دهند.
این گزارش همچنین نشان می‌دهد نظارت مبتنی بر هوش مصنوعی تنها به قابلیت‌های جست‌وجوی پیشرفته محدود نیست، بلکه می‌تواند به‌عنوان پشتیبان مهندسی برای ساخت محصولات مستقل نظارتی نیز استفاده شود. برای مثال، گزارش از یک عامل ایرانی نام می‌برد که با کمک قابلیت کدنویسی Claude یک افزونه فایرفاکس برای استخراج و تحلیل داده‌های شبکه‌های اجتماعی ساخته بود. نگران‌کننده‌تر اینکه در یک عملیات نظارت داخلی در مالی، یک پیمانکار امنیتی توانست با استفاده از قابلیت‌های مهندسی و طراحی Claude یک محصول نظارت گسترده به نام «Lakana 360» بسازد که حدود ۲۵ میلیون سیم‌کارت را پایش می‌کرد. این سامانه کاملاً بر مدل‌های محلی اجرا می‌شود، بنابراین اگرچه Anthropic حساب کاربری فرد را مسدود کرد، امکان غیرفعال کردن محصول مستقرشده را نداشت. شناسایی زودهنگام چنین محصولاتی واقع‌بینانه‌ترین راه برای جلوگیری از عملیاتی شدن آنهاست.
شناسایی رخدادها باید شامل برنامه‌ای برای حفظ شواهد باشد: مجموعه‌ای رو به رشد از پرونده‌ها، هم در دعاوی مدنی و هم در تحقیقات کیفری، از مواردی شکل گرفته که سرکوب دیجیتال فرامرزی به آسیب فیزیکی علیه افراد منجر شده است. این الگو نشان می‌دهد Anthropic و دیگر آزمایشگاه‌های پیشرو باید گزارش‌های دقیق رخدادها، از جمله داده‌های مربوط به انتساب، را به‌دقت حفظ کنند تا در تحقیقات آینده قابل استفاده باشد. هرچند جزئیات دقیق آنچه باید حفظ شود به قوانین محلی بستگی دارد و محل اختلاف است، احتمالاً شرکت‌ها برای شرایط دیگر چنین چارچوب‌هایی را در نظر گرفته‌اند و باید آنها را به‌طور مشخص برای موارد سرکوب دیجیتال فرامرزی نیز گسترش دهند.
این سه توصیه حداقل اقداماتی را مشخص می‌کنند که شرکت‌ها باید برای پاسخ مسئولانه به سرکوب دیجیتال فرامرزی مبتنی بر هوش مصنوعی در نظر بگیرند. بدون تدابیر حفاظتی کافی، دولت‌ها و نیروهای وابسته به آنها بیش از پیش از دستیارهای هوش مصنوعی برای تقویت نظارت فرامرزی استفاده خواهند کرد. برای مقابله با این چالش، پژوهشگران تهدیدات دیجیتال و آزمایشگاه‌های پیشرو هوش مصنوعی باید برای ایجاد سامانه‌های هشدار زودهنگام که همگام با ابزارها و روش‌های نوظهور باشند، همکاری کنند. در نهایت، هنگامی که آسیب شناسایی شد، شرکت‌ها باید جوامع آسیب‌دیده را مطلع کنند و شواهد لازم برای تلاش‌های احتمالی پاسخ‌گویی و مسئولیت‌پذیری را حفظ کنند.
تصویر اصلی: در این تصویرسازی، آیکون‌های برنامه‌های ChatGPT، Muse متعلق به متا و Claude متعلق به Anthropic در پوشه‌ای با عنوان «هوش مصنوعی» روی صفحه یک تلفن هوشمند در ۲۲ سپتامبر ۲۰۲۶ در شنژن، استان گوانگ‌دونگ چین نمایش داده شده‌اند. تقاضای قدرتمند برای دستیار هوش مصنوعی Muse متا، پیش از کنفرانس Connect این شرکت در سپتامبر، که در آن قرار است پیشرفت‌های هوش مصنوعی، عینک‌های هوشمند و واقعیت مجازی معرفی شود، بار دیگر علاقه سرمایه‌گذاران به هوش مصنوعی را افزایش داده است. (تصویرسازی عکاسی از چنگ شین/Getty Images)