میان توسعه و نظارت: رویکرد چین به مهار خطرات هوش مصنوعی
این‌سایت مؤسسه مطالعات امنیت ملی (INSS)، شماره ۲۲۰۵، ۲۵ اکتبر ۲۰۲۶
نگرانی از خارج شدن هوش مصنوعی از کنترل، در کنار عقب‌ماندن فناورانه: پکن خطرات هوش مصنوعی را چگونه ارزیابی می‌کند و برای مقابله با آن‌ها چه اقداماتی انجام می‌دهد؟
شتاب پیشرفت قابلیت‌های هوش مصنوعی باعث شده است چین تعریف گسترده‌تری از خطرات این فناوری ارائه دهد. پکن در کنار جاسوسی، تهدیدهای سایبری و خطرات شناخته‌شده امنیت ملی، بیش از گذشته به خطراتی توجه می‌کند که از خود سامانه‌های پیشرفته هوش مصنوعی ناشی می‌شوند؛ از جمله عملکرد مستقل و احتمال از دست رفتن کنترل بر آن‌ها. در همین حال، عقب‌ماندن فناورانه و وابستگی به فناوری‌های خارجی نیز تهدیدهایی علیه امنیت ملی تلقی می‌شوند. اسناد رسمی منتشرشده در سپتامبر ۲۰۲۶ نشان می‌دهند که در ساختار حکومتی چین دیدگاه‌های متفاوتی درباره این خطرات وجود دارد، اما همه آن‌ها بر ادامه توسعه توانمندی‌های داخلی هوش مصنوعی، هم‌زمان با گسترش سازوکارهای ایمنی، نظارت و کنترل، تأکید می‌کنند.
در اواسط سپتامبر ۲۰۲۶، مقام‌های چینی سه موضع‌گیری مهم درباره خطرات هوش مصنوعی منتشر کردند. چن یی‌شین، وزیر امنیت دولتی چین، در ۱۳ سپتامبر مقاله‌ای منتشر کرد که پیامدهای این خطرات برای امنیت ملی چین را بررسی می‌کرد. روز بعد، چارچوب ۳.۰ حاکمیت ایمنی هوش مصنوعی منتشر شد که خطرات موجود و ابزارهای مقابله با آن‌ها را دسته‌بندی می‌کرد. وزارت امور خارجه چین نیز به خطرات هوش مصنوعی و احتمال کند کردن روند توسعه مدل‌های پیشرفته پرداخت.
ترتیب انتشار این موضع‌گیری‌ها بازتاب‌دهنده تفاوت دیدگاه‌ها میان نهادهای مختلف چین است. مقاله چن فناوری را از منظر امنیت ملی بررسی می‌کند، در حالی که چارچوب ۳.۰، تدوین‌شده با مشارکت نهادهای امنیت سایبری و استانداردسازی، بر خطرات ناشی از تکامل قابلیت‌های سامانه‌های هوش مصنوعی تأکید بیشتری دارد. وزارت امور خارجه نیز این دو بُعد را به هم پیوند می‌دهد و مدیریت خطرات را با ادامه توسعه فناوری سازگار می‌داند. با این حال، مرز میان این حوزه‌ها روشن نیست؛ واژه چینی anquan (安全) هم به معنای ایمنی و هم به معنای امنیت به کار می‌رود و ایمنی فناوری، امنیت سایبری، ثبات سیاسی و امنیت ملی را در چارچوبی مفهومی و مشترک قرار می‌دهد.
هوش مصنوعی از منظر امنیت ملی: مقاله وزیر امنیت دولتی چین
چن یی‌شین، دبیر کمیته حزبی و وزیر امنیت دولتی چین، مقاله خود را در آستانه هفته آگاهی‌بخشی درباره امنیت سایبری ملی منتشر کرد. این مقاله تا حد زیادی بر ایده‌ها و تعابیر پیشین رهبران چین تکیه دارد. تحلیل تطبیقی مارک پارکر یانگ، تحلیلگر پیشین سازمان اطلاعات مرکزی آمریکا (سیا) و مقام ارشد سابق شورای اطلاعات ملی ایالات متحده، نشان می‌دهد که بخش قابل‌توجهی از زبان مقاله وزیر از اسناد و اظهارات پیشین شی جین‌پینگ، رئیس‌جمهور چین، و دیگر مقام‌های این کشور گرفته شده است. با این حال، بخش مربوط به خطرات هوش مصنوعی حاوی مطالب زیادی است که نمی‌توان منشأ آن‌ها را در متون پیشین ردیابی کرد. این موضوع نشان می‌دهد که نوآوری اصلی مقاله احتمالاً در به‌کارگیری مفاهیم امنیتی موجود برای تحلیل تحولات جدید این حوزه نهفته است.
چن شش نوع خطر ناشی از توسعه هوش مصنوعی را برمی‌شمارد که برای بررسی حاضر می‌توان آن‌ها را در سه حوزه دسته‌بندی کرد. حوزه نخست، مسائل سیاسی و اجتماعی را در بر می‌گیرد؛ از جمله تهدیدهای متوجه امنیت سیاسی و ایدئولوژیک و نیز چالش‌های مربوط به حکمرانی و نظم اجتماعی. چن در این زمینه نسبت به استفاده از دیپ‌فیک‌ها، محتوای تولیدشده با هوش مصنوعی و حساب‌های خودکار برای انتشار اطلاعات نادرست، تشدید اختلافات و پیشبرد جنگ شناختی علیه چین هشدار می‌دهد. او همچنین به سوگیری الگوریتمی، نقض حریم خصوصی و دشواری تعیین مسئولیت در قبال تصمیم‌های خودکار اشاره می‌کند.
حوزه دوم به امنیت سایبری، جاسوسی و امنیت اطلاعات مربوط است. به گفته چن، هوش مصنوعی هزینه و مهارت لازم برای اجرای حملات سایبری را کاهش می‌دهد و شناسایی آسیب‌پذیری‌ها و خودکارسازی حملات را آسان‌تر می‌کند؛ حتی ممکن است تقابل‌هایی میان سامانه‌های هوش مصنوعی شکل بگیرد که از آن‌ها با عنوان «هوش مصنوعی در برابر هوش مصنوعی» یاد می‌شود. او همچنین درباره استفاده سرویس‌های اطلاعاتی خارجی از این فناوری برای جمع‌آوری و تحلیل داده‌های حساس و نیز نشت اطلاعات به محصولات هوش مصنوعی خارجی هشدار می‌دهد.
حوزه سوم، رقابت فناورانه و نظامی است. چن شکاف فناوری و وابستگی را از جمله خطرات مهم می‌داند و استدلال می‌کند کشورهایی که در این عرصه برتری دارند، با استفاده از محدودیت‌های فناورانه، استانداردها و سامانه‌های بسته، دسترسی سایر کشورها به فناوری‌های پیشرفته را محدود می‌کنند. او هم‌زمان به گسترش استفاده از هوش مصنوعی در فعالیت‌های اطلاعاتی، تصمیم‌گیری، شناسایی اهداف، پشتیبانی عملیاتی و تأثیرگذاری شناختی اشاره می‌کند. به توصیف او، این فناوری در میدان نبرد از نقشی پشتیبان به «نقشی محوری» در حال گذار است.
آنچه در فهرست خطرات چن به‌طور برجسته دیده نمی‌شود نیز به همان اندازه جالب توجه است. چارچوب ۳.۰، که در ادامه بررسی می‌شود، بر خطر عبور سامانه‌های خودمختار از وظایف تعیین‌شده یا خارج شدن آن‌ها از کنترل انسان تأکید دارد؛ اما چن بیشتر بر نحوه استفاده افراد، دولت‌ها و بازیگران متخاصم از هوش مصنوعی و نیز خطر عقب‌ماندن فناورانه تمرکز می‌کند. این رویکرد بازتاب‌دهنده مفهوم «امنیت ملی جامع» است که فناوری را عاملی برای تقویت تهدیدهای موجود و عرصه‌ای دیگر برای رقابت میان کشورها می‌داند. بر همین اساس، چن نوآوری را «نیروی محرکه اصلی» و امنیت را «الزام بنیادین» معرفی می‌کند و خواستار تقویت توانمندی‌های مستقل هوش مصنوعی در کنار سازوکارهای پایش، هشدار زودهنگام و نظارت می‌شود.
مدیریت خطرات: چارچوب ۳.۰ حاکمیت ایمنی هوش مصنوعی
چارچوب ۳.۰ با هدایت اداره فضای سایبری چین (CAC) و به همت کمیته فنی استانداردسازی امنیت سایبری ملی (TC260)، با همکاری مؤسسات پژوهشی، نهادهای تخصصی و شرکت‌های فناوری تدوین شده است. مسئولیت‌های نهادی در این زمینه میان چند سازمان تقسیم شده‌اند: اداره فضای سایبری چین مقررات مربوط به خدمات، محتوا، الگوریتم‌ها و داده‌ها را هدایت می‌کند؛ کمیته TC260 مسئول استانداردسازی و ابزارهای فنی است؛ و وزارت امنیت دولتی دیدگاه امنیت ملی را وارد این فرایند می‌کند. ارائه‌دهندگان خدمات هوش مصنوعی نیز مسئول اجرای الزامات ایمنی هستند و نهادهای ناظر ذی‌ربط بر عملکرد آن‌ها نظارت می‌کنند.
این سومین نسخه چارچوب است که از سپتامبر ۲۰۲۴ تاکنون هر سال به‌روزرسانی شده است. این سند قانون یا مقررات الزام‌آور نیست، بلکه راهنمایی است که بر سه سطح استوار شده است: شناسایی و طبقه‌بندی خطرات، استفاده از اقدامات فناورانه برای کاهش آن‌ها و ایجاد سازوکارهای نظارت و حکمرانی. از جمله توصیه‌های آن می‌توان به ارزیابی خطر، پایش و هشدار زودهنگام، محدود کردن سطح دسترسی عامل‌های هوش مصنوعی، مشارکت انسان در عملیات پرخطر، حسابرسی ابزارها و افزونه‌ها و ایجاد سازوکارهایی برای خاموش کردن سامانه‌هایی اشاره کرد که از وظایف تعیین‌شده خود فراتر می‌روند. یکی از اصول راهنمای این چارچوب، ترویج توسعه هوش مصنوعی با حفظ وضعیت «ایمن و قابل‌کنترل» (安全可控) است.
این چارچوب در کنار نظام مقررات الزام‌آوری اجرا می‌شود که چین طی سال‌های اخیر توسعه داده است. این نظام شامل مقررات خدمات هوش مصنوعی مولد، فرایندهای ثبت و بررسی خدمات و الگوریتم‌ها و الزام به برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی است. تا اواخر اوت ۲۰۲۶، بیش از هزار خدمت هوش مصنوعی مولد فرایند ثبت در سطح ملی چین را تکمیل کرده بودند. چارچوب ۳.۰ نقشه‌ای از خطرات و اصول فنی برای هدایت توسعه بیشتر استانداردها و مقررات ارائه می‌دهد، در حالی که تعهدات قانونی همچنان بر نظام مقرراتی موجود استوارند.
بر اساس تحلیلی از پروژه «ایمنی هوش مصنوعی در چین»، یک طرح پژوهشی مستقل که سیاست‌ها و حکمرانی هوش مصنوعی در چین را دنبال می‌کند، تعداد خطرات تشریح‌شده در این چارچوب از ۳۰ مورد در نسخه ۲.۰ به ۵۴ مورد در نسخه ۳.۰ افزایش یافته است. توجه ویژه‌ای به عامل‌های هوش مصنوعی شده است؛ سامانه‌هایی که می‌توانند برنامه‌ریزی کنند، وظایف را انجام دهند و در سامانه‌های بیرونی فعالیت کنند. هوش مصنوعی تجسم‌یافته، که در آن یک خطای دیجیتال ممکن است به آسیب فیزیکی منجر شود، نیز مورد توجه قرار گرفته است. این چارچوب همچنین سامانه‌هایی را بررسی می‌کند که بدون مجوز به دسترسی‌ها یا منابع دست می‌یابند، ارزیابان ایمنی را فریب می‌دهند، از هدف تعیین‌شده خود منحرف می‌شوند یا به‌صورت خودمختار در فضای سایبری عمل می‌کنند. در تفسیری که پس از معرفی چارچوب منتشر شد، این تغییر به‌صورت گذار مدل‌های بزرگ از «پاسخ دادن به پرسش‌ها» به «اجرای وظایف» توصیف شد.
این چارچوب به مدل‌های دارای وزن‌های باز نیز می‌پردازد؛ مدل‌هایی که پارامترهای آموخته‌شده آن‌ها در جریان آموزش به‌صورت عمومی در دسترس قرار می‌گیرند و امکان اجرا و تغییر مستقل آن‌ها وجود دارد. در این سند هشدار داده شده است که پس از انتشار وزن‌ها، می‌توان مدل را به‌طور مستقل اجرا کرد، تغییر داد یا حتی سازوکارهای ایمنی آن را حذف کرد. در نتیجه، محدود کردن نسخه‌هایی که قبلاً منتشر شده‌اند، دشوار خواهد بود. این هشدار با توجه به نقش برجسته مدل‌های دارای وزن‌های باز چینی در صنعت داخلی این کشور اهمیت ویژه‌ای دارد. برای نمونه، شرکت دیپ‌سیک وزن‌های مدل‌های V4 خود را منتشر کرد و این رویکرد باز را بخشی از راهبرد توسعه‌اش معرفی کرد. بنابراین، از یک سو وزن‌های باز به نوآوری، گسترش پذیرش فناوری و افزایش نفوذ فناورانه چین کمک می‌کنند و از سوی دیگر، پس از توزیع آن‌ها کنترل نحوه استفاده از مدل‌ها دشوارتر می‌شود.
مقایسه سه نسخه این سند نشان می‌دهد که هم‌زمان با پیشرفت فناوری، تعریف چین از خطرات نیز گسترش یافته است. نسخه ۱.۰ که در سال ۲۰۲۴ منتشر شد، عمدتاً بر خطرات ناشی از خود فناوری و نحوه استفاده از آن تمرکز داشت. نسخه ۲.۰ دامنه بحث را به خطرات اجتماعی، از جمله تأثیرات بر اشتغال و مسائل اخلاقی، گسترش داد. نسخه ۳.۰ نیز خطرات ناشی از تکامل قابلیت‌های سامانه‌های پیشرفته، از جمله عملکرد خودمختار و فعالیت عامل‌های هوش مصنوعی، را بیشتر مورد توجه قرار می‌دهد.
تفاوت میان مقاله چن و چارچوب ۳.۰ نشان می‌دهد که مفهوم خطر در چندین بُعد مطرح است. در عرصه خارجی، پکن نگران عقب‌ماندن از رقابت فناورانه، وابستگی به فناوری‌های خارجی و استفاده دولت‌ها و بازیگران متخاصم از هوش مصنوعی برای عملیات سایبری، جاسوسی و تأثیرگذاری است. در داخل چین نیز نگرانی‌هایی درباره تهدیدهای متوجه امنیت سیاسی و نظم اجتماعی وجود دارد. چارچوب ۳.۰ بُعد دیگری به این نگرانی‌ها می‌افزاید: خطراتی که از رفتار خود سامانه‌های پیشرفته ناشی می‌شوند. بنابراین، هوش مصنوعی هم‌زمان منبع قدرت ملی و تهدیدی بالقوه تلقی می‌شود.
توسعه در کنار امنیت: موضع وزارت امور خارجه چین
در ۱۴ سپتامبر، از گوئو جیاکون، سخنگوی وزارت امور خارجه چین، درباره درخواست چهره‌های ارشد صنعت هوش مصنوعی آمریکا برای کند کردن روند توسعه سامانه‌های پیشرفته این فناوری سؤال شد. این پرسش به‌ویژه به اظهارات داریو آمودی، مدیرعامل شرکت آنتروپیک مربوط بود که خطرات مدل‌های پیشرفته هوش مصنوعی را به رقابت فناورانه با چین پیوند داده بود. گوئو در پاسخ اعلام کرد که چین از توسعه «باز و فراگیر» هوش مصنوعی حمایت می‌کند و نسبت به بزرگ‌نمایی تهدیدها، تقابل و «رقابت مخرب» هشدار داد.
گوئو روز بعد توضیح داد که چین خود خطرات این فناوری را نیز به رسمیت می‌شناسد. به گفته او، مقررات باید متناسب با تحولات فناوری اصلاح شوند و تدابیر حفاظتی تقویت شوند تا هوش مصنوعی از کنترل خارج نشود. او تأکید کرد که چین «به توسعه و امنیت به یک اندازه اهمیت می‌دهد»، خطرات ذاتی هوش مصنوعی و خطرات ناشی از پیامدها و کاربردهای آن را جدی می‌گیرد و می‌کوشد این فناوری «ایمن، قابل‌اعتماد و قابل‌کنترل» باقی بماند. گوئو در همین زمینه صراحتاً به چارچوب ۳.۰ اشاره کرد که روز قبل منتشر شده بود.
تعارض دیدگاه‌ها آشکار است: وزارت امور خارجه چین با استفاده از ادبیات ایمنی هوش مصنوعی برای توجیه تقابل و رقابت فناورانه مخالفت می‌کند، در حالی که چن عقب‌ماندن فناورانه، وابستگی و محدودیت‌های دسترسی به فناوری را بخشی از مجموعه تهدیدهای امنیت ملی می‌داند.
این مسئله به بالاترین سطح سیاسی نیز رسید. شی جین‌پینگ و دونالد ترامپ، رؤسای جمهور چین و آمریکا، در دیدار خود در واشنگتن در ۲۴ سپتامبر درباره هوش مصنوعی گفت‌وگو کردند. شی خواستار ادامه گفت‌وگو میان دو کشور درباره خطرات و مزایای این فناوری شد تا از سوءاستفاده از آن جلوگیری شود و کنترل انسانی بر آن حفظ بماند. پس از این نشست، دو طرف توافق کردند گفت‌وگویی اختصاصی درباره این موضوع را پیش ببرند و کانالی ارتباطی برای رسیدگی به حوادث مرتبط با هوش مصنوعی ایجاد کنند. با این حال، تنها چند روز پس از دیدار، ترامپ روشن کرد که هوش مصنوعی را عرصه‌ای برای رقابت راهبردی مستقیم با چین نیز می‌داند و درباره همکاری‌هایی که ممکن است دسترسی پکن به فناوری و تخصص آمریکایی را فراهم کنند، ابراز تردید کرد. این موضع در سطح رهبران دو کشور نیز اصطکاک مداوم میان مدیریت خطرات مشترک هوش مصنوعی و رقابت فناورانه دو قدرت را نشان می‌دهد.
میان توسعه و کنترل: پیامدها برای آینده
مقاله چن یی‌شین، چارچوب ۳.۰ و موضع‌گیری‌های وزارت امور خارجه چین دیدگاه‌های متفاوتی را در ساختار حکومتی این کشور بازتاب می‌دهند که با نقش‌ها و مسئولیت‌های نهادهای صادرکننده آن‌ها ارتباط دارد. دستگاه امنیتی بر تهدیدهای متوجه دولت و نظام سیاسی و نیز توانایی چین برای رقابت تأکید می‌کند. نهادهای امنیت سایبری و استانداردسازی بیش از گذشته به رفتار سامانه‌های پیشرفته و احتمال از دست رفتن کنترل بر آن‌ها توجه دارند. وزارت امور خارجه نیز می‌کوشد ضمن به رسمیت شناختن خطرات، با استفاده از گفت‌وگو درباره ایمنی برای توجیه محدودیت بر توسعه فناورانه چین مخالفت کند. مفهوم چینی anquan (安全) امکان می‌دهد این ابعاد در چارچوبی گسترده و واحد قرار گیرند که ایمنی فناوری، امنیت سایبری و اطلاعاتی، ثبات سیاسی و امنیت ملی را در بر می‌گیرد.
این تحولات برای حکمرانی بین‌المللی هوش مصنوعی نیز پیامدهایی دارند. توافق‌های حاصل از دیدار شی و ترامپ نشان می‌دهند که زمینه‌ای برای گفت‌وگوی چین و آمریکا درباره از دست رفتن کنترل، استفاده مخرب، خطرات سایبری و سامانه‌های خودمختار وجود دارد. با این حال، رقابت فناورانه مداوم جداسازی موضوع ایمنی از امنیت ملی را دشوار می‌کند. مقام‌های آمریکایی محدود کردن دسترسی چین به تراشه‌ها و قابلیت‌های پیشرفته را ابزاری برای کاهش خطرات می‌دانند، در حالی که پکن عقب‌ماندن فناورانه و وابستگی به طرف‌های خارجی را خود از خطرات اساسی به شمار می‌آورد. بنابراین، گفت‌وگوی دو کشور باید هم به تعریف خطرات و هم به اختلاف‌نظر درباره روش‌های موجه مدیریت آن‌ها بپردازد. با وجود این، هم‌پوشانی دیدگاه‌ها درباره خطراتی مانند از دست رفتن کنترل و سوءاستفاده از سامانه‌های پیشرفته می‌تواند مبنایی برای همکاری هدفمند فراهم کند.
دیدگاه‌های بیان‌شده در انتشارات مؤسسه مطالعات امنیت ملی (INSS) صرفاً متعلق به نویسندگان آن‌هاست.
منی واکنین
منی واکنین پژوهشگر همکار در مرکز سیاست‌گذاری اسرائیل و چین دایان و گیل‌فورد گلیزر در مؤسسه مطالعات امنیت ملی (INSS) است. حوزه پژوهشی او همکاری‌های بین‌المللی چین در زمینه کشاورزی، آب و مسائل زیست‌محیطی، با تأکید بر پروژه‌های فناوری پیشرفته، را در بر می‌گیرد. او در دانشگاه تل‌آویو در مقطع دکتری تاریخ چین تحصیل می‌کند و رساله‌اش درباره مهاجرت، اسکان و توسعه کشاورزی در جنوب چین طی سلسله سونگ است. او مدرک کارشناسی ارشد با درجه ممتاز در مطالعات آسیای شرقی و مدرک کارشناسی با درجه ممتاز در مطالعات آسیای شرقی و جغرافیا را از دانشگاه تل‌آویو دریافت کرده است.