هنری هویائو وانگ: مذاکرات هوش مصنوعی آمریکا و چین باید ایمنی فناوری و کسب‌وکار را تضمین کند
یادداشت | هنری هویائو وانگ
رئیس مرکز چین و جهانی‌شدن می‌گوید ایجاد خط تماس مستقیم و برگزاری گفت‌وگوهای موردی کافی نیست؛ نگرانی‌ها درباره ایمنی فناوری هوش مصنوعی و شرکت‌هایی که سرمایه‌گذاری سنگینی در این حوزه انجام می‌دهند، رو به افزایش است.
متن زیر تازه‌ترین یادداشت هنری هویائو وانگ، بنیان‌گذار و رئیس مرکز چین و جهانی‌شدن، است که روز سه‌شنبه، ۲۰ اکتبر ۲۰۲۶، منتشر شده است. ستون یادداشت‌های او به بررسی روابط چین با جهان می‌پردازد.
ماه گذشته، مذاکرات آمریکا و چین درباره هوش مصنوعی در نیویورک راه را برای همکاری دو کشور هموار کرد. این مسیر در نشست شی جین‌پینگ و دونالد ترامپ در واشنگتن نیز تأیید شد؛ جایی که دو رئیس‌جمهور توافق کردند گفت‌وگویی رسمی درباره هوش مصنوعی شکل بگیرد و خط تماس مستقیمی برای این موضوع ایجاد شود. با توجه به اینکه نشست بعدی هوش مصنوعی برای ماه نوامبر برنامه‌ریزی شده است، ضروری است دو کشور همکاری‌های خود را بیش از پیش گسترش دهند.
زیست‌بوم هوش مصنوعی در حال دگرگونی است. شرکت‌های فناوری آمریکایی پیش از آنکه الگوی درآمدزایی این صنعت به ثبات برسد، مبالغ هنگفتی را صرف تراشه‌ها، مراکز داده و انرژی می‌کنند و بخش بزرگی از منابع مالی خود را به این سرمایه‌گذاری‌ها اختصاص می‌دهند. تریلیون‌ها دلار برای توسعه زیرساخت‌های هوش مصنوعی در نظر گرفته شده است. هرچند این میزان سرمایه‌گذاری با اهرم مالی افراطی در بازار وام‌های مسکن که بحران مالی جهانی سال ۲۰۰۸ را رقم زد، یکسان نیست، ترکیدن ناگهانی حباب هوش مصنوعی می‌تواند پیامدهایی گسترده داشته باشد.
بخش قابل‌توجهی از رشد اقتصادی آمریکا در سال جاری از فعالیت شرکت‌های هوش مصنوعی یا شرکت‌هایی حاصل شده که زیرساخت‌ها و فناوری‌های لازم برای این صنعت را فراهم می‌کنند. بااین‌حال، طبق گزارش «پایش هوش مصنوعی ۲۰۲۶» مؤسسه ایپسوس، تنها ۳۸ درصد آمریکایی‌ها معتقدند محصولات و خدمات هوش مصنوعی «مزایای بیشتری از معایب» دارند؛ رقمی که به‌مراتب پایین‌تر از میانگین جهانی است. در چین، این میزان به ۸۵ درصد می‌رسد. همچنین، نظرسنجی «ردیاب مصرف‌کننده» ایپسوس در ماه مه نشان داد که بیشتر آمریکایی‌ها با احداث مرکز داده در محل زندگی خود مخالف خواهند بود.
افزایش توانمندی‌های هوش مصنوعی نگرانی‌های تازه‌ای به وجود آورده است. رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از تلاش برای حذف تمام پیام‌های یک صندوق ایمیل تا خروج از محیط‌های ایزوله و اجرای حملات سایبری، گسترش یافته است. در ماه ژوئیه، عامل‌های هوش مصنوعی شرکت اوپن‌ای‌آی در جریان یک ارزیابی محدود، محدودیت‌های خود را دور زدند و حملاتی خودکار علیه پلتفرم توسعه‌دهندگان هاجینگ فیس به راه انداختند.
در همان ماه، شرکت کوچک امنیت سایبری آمریکایی کالیف از ابزاری به نام وی‌ورم (WeWorm) برای سوءاستفاده از یک آسیب‌پذیری بدون نیاز به کلیک در سامانه تماس وی‌چت استفاده کرد. این آسیب‌پذیری به ابزار امکان می‌داد حساب‌های کاربری را تصاحب کند و بدون آنکه گیرنده تماس را پاسخ دهد، از یک گوشی به گوشی دیگر گسترش یابد. در هند نیز پژوهشگران امنیت سایبری شرکت هاکترون با استفاده از مدل‌های کلود شرکت آنتروپیک به سامانه‌های اوپن‌ای‌آی نفوذ کردند، حساب‌های کارکنان را به خطر انداختند و به سامانه‌های نرم‌افزاری بالقوه حساس دسترسی یافتند.
هر دو مورد نفوذ در چارچوب ارزیابی‌هایی با هدفی دوستانه انجام شدند و خسارتی به بار نیاوردند؛ تنسنت هولدینگز و اوپن‌ای‌آی نیز به‌سرعت از مشکلات مطلع شدند و آسیب‌پذیری‌ها را برطرف کردند. بااین‌حال، این رخدادها هشداری درباره تهدید حملات سایبری مبتنی بر هوش مصنوعی هستند؛ تهدیدی که هم از مدیریت نامناسب این فناوری ناشی می‌شود و هم از واگذاری هرچه بیشتر توانمندی‌های جنگ سایبری به بازیگران خصوصی سرچشمه می‌گیرد.
درخواست فوری و فزاینده پیشگامان توسعه هوش مصنوعی و دانشمندان برای ایجاد سازوکارهای حفاظتی به‌خوبی بیانگر شرایط کنونی است. داریو آمودی، مدیرعامل آنتروپیک، پیشنهاد کرده است آزمایشگاه‌های پیشرو به‌طور دائمی در معرض ارزیابی نهادهای مستقل قرار گیرند و شرکت‌ها و دولت‌ها برای هماهنگ‌سازی استانداردهای ایمنی همکاری کنند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز متعهد شده است مدل‌های این شرکت را در اختیار ارزیابی‌های شخص ثالث قرار دهد. دمیس هاسابیس، رئیس گوگل دیپ‌مایند، هم از آزمایش سامانه‌های پیشرفته هوش مصنوعی پیش از عرضه عمومی حمایت می‌کند.
هفته گذشته، دست‌کم ۴۲۰ دانشمند از سراسر جهان در نامه‌ای سرگشاده خواستار اقدام فوری برای جلوگیری از پیامدهای فاجعه‌بار هوش مصنوعی شدند. از جمله پیشنهادهای آنان، تشکیل نهادی بین‌المللی برای ثبت و پیگیری موارد شکست در مهار این فناوری بود.
این نگرانی‌ها باید در تعیین دستور کار گفت‌وگوی آتی آمریکا و چین درباره هوش مصنوعی نقش محوری داشته باشند. بااین‌حال، مذاکرات نباید به مدیریت حوادث و تدوین سازوکارهای حفاظتی محدود بماند؛ بلکه باید راه‌هایی برای ایجاد توجیه اقتصادی پایدار برای توسعه هوش مصنوعی نیز پیدا کند. چین با توجه به زیست‌بوم هوش مصنوعی خود که روزبه‌روز توانایی بیشتری برای رشد مستقل پیدا می‌کند، ظرفیت زیادی برای مشارکت در این تلاش دارد.
نخست، روشن است که زیست‌بوم‌های هوش مصنوعی آمریکا و چین هرکدام بخش متفاوتی از یک الگوی اقتصادی مشترک را در اختیار دارند.
توسعه‌دهندگان آمریکایی به کاربردهایی نیاز دارند که بتوانند عملکرد پیشرفته مدل‌های پیشرو را به درآمدی پایدار تبدیل کنند. چین یکی از بزرگ‌ترین محیط‌های جهان را برای آزمایش، بهبود و تجاری‌سازی این کاربردها در حوزه‌هایی مانند تولید، لجستیک، پزشکی، آموزش، خدمات عمومی و هوش مصنوعی تجسم‌یافته فراهم می‌کند.
از سوی دیگر، صنعت چین می‌تواند از سرمایه‌گذاری و پژوهش در خط مقدم توسعه مدل‌های پیشرفته بهره‌مند شود؛ درحالی‌که توانایی این کشور در هماهنگ‌سازی مراکز داده و تأمین برق می‌تواند بخشی از فشار وارد بر ظرفیت محاسباتی آمریکا را کاهش دهد.
همکاری در زمینه مدل‌های کارآمد، سامانه‌های خنک‌کننده و مدیریت انرژی می‌تواند به هر دو کشور کمک کند تا ضمن پاسخ‌گویی به تقاضای فزاینده، هزینه‌هایی را که مصرف‌کنندگان و جوامع محلی متحمل می‌شوند کاهش دهند. در یک زیست‌بوم سالم، هم مدل‌های پیشرفته آمریکایی و هم مدل‌های چینی با وزن‌های باز می‌توانند جایگاه داشته باشند.
مدل‌های چینی با وزن‌های باز، به‌ازای هر توکن هزینه کمتری دارند و ازاین‌رو می‌توانند در کنار مدل‌های پیشرفته آمریکایی، گزینه‌ای اقتصادی باشند. شرکت‌ها می‌توانند از این مدل‌ها برای کارهای معمول و پرتکرار استفاده کنند و مدل‌های پیشرفته‌تر را برای مسائلی نگه دارند که واقعاً به توانایی‌های ویژه آن‌ها نیاز دارند. چنین ترکیبی از مدل‌های کم‌هزینه و پیشرفته، استفاده از قابلیت‌های مدل‌های آمریکایی را در جریان‌های کاری گسترده‌تر اقتصادی‌تر می‌کند و توجیه تجاری هر دو کشور را تقویت خواهد کرد.
برای تداوم این همکاری، دو کشور باید با خطرات هوش مصنوعی نیز روبه‌رو شوند و مدیریت آن‌ها را به‌صورت مشترک پیش ببرند. آمریکا و چین دو سال پیش بر سر یک اصل محدود توافق کردند: تصمیم‌گیری درباره استفاده از سلاح‌های هسته‌ای باید در اختیار انسان‌ها باشد، نه هوش مصنوعی. پیشنهاد من این است که دو کشور یک گام فراتر بروند و به تعهدی متقابل مبنی بر عدم استفاده نخست از سلاح‌های خودمختار مجهز به هوش مصنوعی دست یابند.
آخرین موضوعی که باید در مذاکرات هوش مصنوعی مطرح شود، مسئله نهادها و ساختارهای حکمرانی است. پراکندگی سازوکارهای حکمرانی ممکن است به ایجاد موانعی میان استانداردهای ناسازگار و تکرار زیرساخت‌ها بینجامد. ابتکار پکس سیلیکا (Pax Silica) به رهبری آمریکا و سازمان جهانی همکاری هوش مصنوعی به رهبری چین نباید در تقابل با یکدیگر قرار گیرند.
در عوض، دو کشور باید چارچوبی مشترک و مرتبط با سازمان ملل متحد ایجاد کنند تا حکمرانی جهانی هوش مصنوعی و منافع خود را در آن جای دهند. چنین چارچوبی باید به کشورهایی که از هوش مصنوعی استفاده می‌کنند، در کنار کشورهایی که آن را توسعه می‌دهند، فرصت مشارکت و اظهارنظر بدهد.
در نهایت، برگزاری نشستی سالانه میان سران آمریکا و چین درباره هوش مصنوعی می‌تواند بنیانی مستحکم برای این همکاری فراهم کند. چنین نشستی دولت‌ها را در کنار آزمایشگاه‌ها، دانشمندان، دانشگاه‌ها، شرکت‌ها و سازمان‌های جامعه مدنی گرد هم می‌آورد. دست‌کم در شرایط کنونی، این انسان‌ها هستند که از طریق انتخاب‌هایشان و نحوه استفاده از فناوری، تعیین می‌کنند این فناوری چه ارزشی از نظر اخلاقی داشته باشد.