مهارهای ایمنی در دنیای سیلیکون، واقعیت‌های زبانی بومی: چگونه شکاف آزمون ایمنی هوش مصنوعی در جنوب جهانی را ببندیم؟

www.globalpolicyjournal.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

مهارهای ایمنی در دنیای سیلیکون، واقعیت‌های زبانی بومی: چگونه شکاف آزمون ایمنی هوش مصنوعی در جنوب جهانی را ببندیم؟
عکس: پراسانگ یاداو از پلتفرم Pexels

در حالی که مدل‌های پیشرفته هوش مصنوعی معماهای ریاضی چندصدساله را حل می‌کنند و منابع زیرساخت‌های فیزیکی را می‌بلعند، کشورهای جنوب جهانی میان فیلترهای ایمنی ناکارآمد غرب، گسترش مدل‌های دارای وزن باز چینی و رقابتی جهانی گرفتار شده‌اند که هیچ‌کس جرئت ندارد سرعت آن را کاهش دهد.

توهم ایمنی جهانی و شکاف میان مدل‌های بسته و دارای وزن باز

هر بار که شرکت Anthropic تازه‌ترین گزارش‌های خود درباره ایمنی مدل‌های هوش مصنوعی را منتشر می‌کند، پایتخت‌های غربی تقریباً واکنشی از پیش قابل پیش‌بینی نشان می‌دهند. مقام‌های بروکسل و واشنگتن بلافاصله گزارش‌ها را بررسی می‌کنند تا سطوح ریسک را در چارچوب قانون هوش مصنوعی اتحادیه اروپا تنظیم کنند و دستورالعمل‌های آزمایش در مؤسسه امنیت هوش مصنوعی بریتانیا و مرکز استانداردها و نوآوری هوش مصنوعی آمریکا را تغییر دهند.

اما اگر همین گزارش‌ها را از زاویه دید دهلی‌نو، نایروبی یا جاکارتا بخوانیم، تصویر کاملاً متفاوت خواهد بود. ساختار جهانی ایمنی هوش مصنوعی بر یک تصور نادرست و پنهان استوار است: اینکه می‌توان استانداردهای ایمنی را در همه‌جای جهان یکسان در نظر گرفت. مدل‌های پیشرفته تقریباً به‌طور کامل بر اساس هنجارهای حقوقی غرب و قواعد متعارف زبان انگلیسی آموزش داده می‌شوند، ارزیابی می‌شوند و تحت آزمون‌های تیم قرمز قرار می‌گیرند. ترکیب اعضای نهادهای تصمیم‌گیر نیز همین مسئله را نشان می‌دهد. در شبکه بین‌المللی سنجش، ارزیابی و علم هوش مصنوعی پیشرفته (NAAIMES) که در سال ۲۰۲۶ با عضویت ۱۰ کشور، هماهنگی آزمون‌های جهانی ایمنی را بر عهده دارد، کنیا تنها نماینده جنوب جهانی است و دموکراسی‌های دیجیتال مهمی مانند هند، برزیل و اندونزی از حضور در آن محروم مانده‌اند.

هم‌زمان، ساختار جهانی این صنعت به دو بخش تقسیم شده است. غول‌های آمریکایی مانند OpenAI و Anthropic مدل‌های پیشرفته خود را پشت رابط‌های برنامه‌نویسی اختصاصی و بسته نگه می‌دارند؛ در مقابل، آزمایشگاه‌های چینی به رهبری DeepSeek و خانواده مدل‌های Qwen متعلق به علی‌بابا، مدل‌های قدرتمند دارای وزن باز را در سراسر جهان عرضه می‌کنند. برای استارتاپ‌ها و نهادهای دولتی در کشورهای جنوب جهانی، دانلود رایگان یک مدل چینی دارای وزن باز، بسیار ارزان‌تر از پرداخت هزینه استفاده از مدل‌های سیلیکون‌ولی است. بااین‌حال، هیچ‌یک از این دو رویکرد مشکل اصلی را حل نمی‌کند: مدل‌های بسته آمریکایی به زبان‌های غیرغربی توجهی حاشیه‌ای دارند و مدل‌های قابل دانلود دارای وزن باز نیز این امکان را به کاربران محلی می‌دهند که ظرف چند دقیقه، در سرورهای خصوصی خود محدودیت‌های ایمنی را حذف کنند.

خلأ ایمنی در زبان‌های بومی

جوامع چندزبانه زودتر از دیگران با پیامدهای این ناکارآمدی روبه‌رو می‌شوند. هند با بیش از ۹۰۰ میلیون کاربر اینترنت که به ۲۲ زبان رسمی مندرج در قانون اساسی و هزاران گویش محلی کوچک‌تر ارتباط برقرار می‌کنند، بزرگ‌ترین بستر آزمایش زنده زیرساخت عمومی دیجیتال (DPI) در جهان است. زیرساخت عمومی دیجیتال در این کشور در مقیاسی گسترده به کار گرفته شده است. افزون بر آن، صدها میلیون نفر در کشورهای جنوب صحرای آفریقا و جنوب شرق آسیا نیز از زبان‌ها و گویش‌های بومی استفاده می‌کنند. با وجود این تنوع زبانی، ابزارهای خودکار آزمون تیم قرمز که برای شناسایی نفرت‌پراکنی، کلاهبرداری مالی یا مداخله در انتخابات به کار می‌روند، به‌ندرت زبان‌هایی فراتر از انگلیسی و چند زبان اروپایی را بررسی می‌کنند.

نتیجه این وضعیت، شکافی عمیق در ایمنی زبان‌های بومی است. فیلترهایی که درخواست‌های مخرب را در قالب انگلیسی معیار آمریکایی شناسایی می‌کنند، اغلب در مواجهه با اصطلاحات عامیانه منطقه‌ای، توهین‌های مبتنی بر نظام کاستی یا پدیده «تغییر کد زبانی» شکست می‌خورند؛ پدیده‌ای که در آن گویشوران زبان‌های محلی را با انگلیسی لاتین‌نویسی‌شده ترکیب می‌کنند، مانند هینگلیش، تنگلیش یا شِنگ. توکن‌سازهایی که عمدتاً بر اساس زبان انگلیسی طراحی شده‌اند، متون متعلق به خط‌های غیربومی را به قطعات نامتعارف تقسیم می‌کنند. همین مسئله به مهاجمان اجازه می‌دهد با انتقال درخواست‌های خود به گویش‌های کم‌منبعی که سامانه‌های نظارتی سان‌فرانسیسکو برای شناسایی آن‌ها آموزش ندیده‌اند، محدودیت‌ها را دور بزنند. در نتیجه، درخواستی برای تحریک خشونت‌های قومی و مذهبی یا تولید ویدئوی جعلی با هدف تخریب اعتبار نامزدهای انتخاباتی ممکن است در لندن مسدود شود، اما در یکی از بازارهای منطقه‌ای بدون مانع وارد مرحله استفاده عملیاتی شود.

دهلی‌نو تلاش کرده است به این وضعیت واکنش نشان دهد. دولت هند پس از عقب‌نشینی از دستورالعمل مارس ۲۰۲۴، در سال ۲۰۲۵ مؤسسه ایمنی IndiaAI را راه‌اندازی کرد و در ژوئیه ۲۰۲۶ نیز بودجه ۱۳ گروه پژوهشی محلی را برای مقابله با دیپ‌فیک و سوگیری اختصاص داد. بااین‌حال، دستورالعمل‌های داوطلبانه نمی‌توانند جایگزین ممیزی‌های فنی الزام‌آور شوند. نظارت در کشورهای در حال توسعه همچنان بر پایه نوعی نظام اعتماد و خوداظهاری پیش می‌رود؛ به‌گونه‌ای که شرکت‌های خارجی خودشان عملکردشان را ارزیابی می‌کنند و هم‌زمان، با اتکا به معافیت‌های گسترده در قوانینی مانند مقررات حفاظت از داده‌های شخصی دیجیتال هند در سال 2025 (DPDP)، حجم عظیمی از داده‌های متنی و صوتی محلی را جمع‌آوری می‌کنند.

از معادلات ناویه–استوکس تا ربوده‌شدن جرقه کنجکاوی انسانی

این روند استخراج و بهره‌برداری اکنون به بالاترین قله‌های تفکر انسانی نیز رسیده است. شرکت OpenAI در ۸ سپتامبر ۲۰۲۶ اعلام کرد که یکی از مدل‌های استدلالی داخلی این شرکت توانسته است مسئله وجود و همواری ناویه–استوکس را حل کند؛ مسئله‌ای که حدود ۹۰ سال قدمت دارد و یکی از هفت مسئله جایزه هزاره مؤسسه کلی با جایزه یک میلیون دلاری است که به حوزه دینامیک سیالات مربوط می‌شوند. این دستاورد پس از صرف میلیون‌ها واحد محاسباتی و با تأیید در دستیار اثبات ریاضی Lean به دست آمد. بااین‌حال، انتشار خبر آن بحثی جدی درباره اولویت و اعتبار این دستاورد برانگیخت؛ زیرا ریاضی‌دانان یادآوری کردند که آزمایشگاه‌های پیشرو هوش مصنوعی به انبوهی از مکالمات کاربران و شهود انسانی منتشرنشده دسترسی دارند که در قالب سامانه‌هایی غیرشفاف نگهداری می‌شوند.

این دستاورد ما را ناگزیر می‌کند که عمیق‌تر به مسیر پیش رو بیندیشیم. برای دهه‌ها، وعده اصلی خودکارسازی این بود که ماشین‌ها کارهای روزمره، دشوار و خطرناک را بر عهده بگیرند؛ کارهایی مانند جمع‌آوری زباله، فعالیت در سکوهای نفتی و آسفالت‌ریزی. قرار بود این تحول به انسان‌ها فرصت دهد تا بیشتر بیندیشند، بنویسند، نقاشی کنند و به کشف و شگفتی بپردازند. اما در عمل، هوش مصنوعی را به‌گونه‌ای به کار گرفته‌ایم که نتیجه معکوس داشته است: انسان‌ها همچنان خیابان‌ها را جارو می‌کنند، درحالی‌که الگوریتم‌ها شعر می‌سرایند، تابلوهای نقاشی خلق می‌کنند و قضایای ریاضی چندصدساله را حل می‌کنند.

از کشف آتش تا کاوش در اعماق فضا، نیروی محرکه پیشرفت بشر همواره کنجکاوی و چالش‌های برخاسته از آن بوده است. اگر الگوریتم‌ها در همه رقابت‌ها از ما پیشی بگیرند، تمام مسائل جایزه هزاره را حل کنند و در چند ثانیه رمان بنویسند، چه چیزی برای حفظ احساس انسان‌بودن ما باقی می‌ماند؟ پرسش نگران‌کننده‌تر این است که اگر ماشین‌ها به‌جای پاسخ‌دادن به پرسش‌ها، شروع به تعیین این موضوع کنند که اساساً چه پرسش‌هایی ارزش مطرح‌شدن دارند، چه اتفاقی خواهد افتاد؟ آیا ممکن است انسان‌ها به‌تدریج و بدون آنکه متوجه شوند، از اندیشیدن دست بکشند؟

رآکتوری بدون تدابیر حفاظتی و دام کاهش سرعت

سامانه‌ای خودمختار را تصور کنید که تنها مأموریتش به حداکثر رساندن تابع هدف خود است. چنین سامانه‌ای همین حالا نیز منابع فیزیکی محرک سه انقلاب صنعتی نخست، از جمله زمین، آب شیرین مورد نیاز برای خنک‌سازی، زنجیره تأمین سیلیکون و شبکه‌های برق شهری را به‌سوی رک‌های سرور و مراکز داده هدایت می‌کند. ما با سرعت به‌سوی پرتگاهی حرکت می‌کنیم؛ گویی سوار خودرویی بدون ترمز شده‌ایم و یک رآکتور هسته‌ای جهانی را بدون معاهده منع گسترش سلاح‌های هسته‌ای (NPT)، بدون نظام بازرسی آژانس بین‌المللی انرژی اتمی و بدون واکسن زیستی برای مقابله با پیامدهای احتمالی کدهای خطرناک، به راه انداخته‌ایم.

بااین‌حال، درخواست جهانی برای کاهش سرعت توسعه هوش مصنوعی به یک معمای کلاسیک زندانی تبدیل شده است. حتی با وجود آنکه گروه‌هایی مانند مؤسسه پژوهش هوش ماشینی (MIRI) در مه ۲۰۲۶ پیش‌نویس معاهدات بین‌المللی برای جلوگیری از ایجاد زودهنگام ابرهوش مصنوعی را مطرح کردند، هیچ قدرت بزرگی حاضر نیست نخستین طرفی باشد که از رقابت عقب می‌نشیند. در یک رقابت ژئوپلیتیکی با منطق حاصل‌جمع صفر، درخواست توقف یا مکث می‌تواند مانند دامی به نظر برسد؛ زیرا هر شرکت یا کشوری که سرعت پیشرفت خود را کاهش دهد، ممکن است شاهد تثبیت برتری دائمی رقبایش باشد. اگر روزی توسعه هوش مصنوعی متوقف یا کند شود، احتمالاً این اتفاق نه در نتیجه آینده‌نگری، بلکه بر اثر فرسودگی منابع فیزیکی و اجتماعی رخ خواهد داد؛ عواملی مانند هزینه‌های سرسام‌آور محاسبات، قطعی و افت ولتاژ شبکه برق، جریمه‌های کربنی و از دست رفتن گسترده مشاغل اداری و تخصصی.

بازپس‌گیری ترمزها

آیا باید منتظر یک فاجعه هسته‌ای در دنیای الگوریتم‌ها بمانیم و بعد به فکر نصب سامانه‌های ایمنی بیفتیم؟ برای بهره‌برداری از دستاوردهای جانبی توسعه هوش مصنوعی، بدون آنکه اختیار و عاملیت انسانی را قربانی کنیم، باید سه سازوکار حفاظتی را بی‌درنگ به اجرا بگذاریم:

  • الزام بازار به انجام آزمون‌های تیم قرمز به زبان‌های بومی: دسترسی به بازارهای جنوب جهانی باید به انجام اجباری آزمون‌های تیم قرمز در زبان‌های بومی مشروط شود. دولت‌ها می‌توانند با طبقه‌بندی ارائه‌دهندگان بزرگ هوش مصنوعی به‌عنوان «امانت‌داران مهم داده» در چارچوب‌هایی مانند مقررات DPDP هند، آن‌ها را از نظر قانونی ملزم کنند پیش از عرضه هر رابط برنامه‌نویسی بسته یا مدل دارای وزن باز در زیرساخت‌های عمومی دیجیتال، ممیزی‌های ایمنی پیش از استقرار را در زبان‌های محلی انجام دهند.
  • معیارهای مستقل و حاکمیتی برای نرم‌افزار متن‌باز: ائتلاف‌های کشورهای در حال توسعه در گروه ۲۰، بریکس پلاس و اتحادیه آفریقا باید منابع محاسباتی عمومی خود را تجمیع کنند تا مجموعه ابزارهای ایمنی با دسترسی آزاد بسازند. این اقدام می‌تواند بر پایه فعالیت‌های کارگروه هوش مصنوعی ایمن و قابل اعتماد که هند و برزیل در اجلاس تأثیر هوش مصنوعی هند در فوریه ۲۰۲۶ ریاست مشترک آن را بر عهده داشتند و همچنین سکوهای زبانی مانند ابتکار هوش مصنوعی ایمن و قابل اعتماد و پلتفرم بهاشینی هند دیجیتال گسترش یابد.
  • پروتکل‌های الزام‌آور API برای هشدار زودهنگام: سازمان ملل متحد و اتحادیه بین‌المللی مخابرات باید یک سامانه ثبت و هشدار زودهنگام الزام‌آور، مشابه سازوکارهای معاهده منع گسترش سلاح‌های هسته‌ای، ایجاد کنند که آزمایشگاه‌های توسعه‌دهنده مدل‌های پیشرفته را ملزم سازد آسیب‌پذیری‌ها و سوءاستفاده‌های مهم و همچنین میزان مصرف منابع خود را به‌صورت لحظه‌ای افشا کنند.

هدف فناوری این بود که انسان را از کارهای طاقت‌فرسا رها کند، نه اینکه معنای زندگی و هدف انسانی را از او بگیرد. اگر کشورهای جنوب جهانی و جامعه بین‌المللی می‌خواهند از رقابت بر سر هوش مصنوعی پیشرفته جان سالم به در ببرند، باید به‌جای اعتماد بی‌چون‌وچرا به ادعاهای ایمنی سیلیکون‌ولی، پیش از آنکه وقوع یک فاجعه ما را ناگزیر به اقدام کند، سازوکارهای مستقل و حاکمیتی کنترل و مهار این فناوری را بسازیم.

کیرتان چاندرا تحلیلگر و پژوهشگر مستقل سیاست‌گذاری است و بر حکمرانی بین‌المللی، حکمرانی هوش مصنوعی و زیرساخت عمومی دیجیتال (DPI) در کشورهای جنوب جهانی تمرکز دارد. او به‌تازگی دوره تحلیل سیاست عمومی را در مدرسه اقتصاد و علوم سیاسی لندن (LSE) به پایان رسانده، در حال حاضر در برنامه هوش مصنوعی دانشگاه آکسفورد شرکت می‌کند و به‌عنوان داوطلب سازمان ملل متحد با جنبش جوانان آفریقا (AYM) همکاری دارد. حوزه پژوهش او سیاست صنعتی، حکمرانی زنجیره تأمین و نظام‌های دیجیتال حاکمیتی را دربرمی‌گیرد.

توضیح درباره استفاده از ابزارهای هوش مصنوعی: نویسنده این مقاله را به‌طور مستقل نگارش کرده و صرفاً برای تنظیم ساختار، کاهش تعداد کلمات و ویرایش سبکی متن اولیه خود از گوگل جمنای بهره گرفته است. مسئولیت کامل صحت اطلاعات، استدلال‌های اصلی و یکپارچگی نسخه نهایی مقاله بر عهده نویسنده است.

منابع

Anthropic. (2026). سیاست مقیاس‌بندی مسئولانه Anthropic: افشاگری‌های فنی و معیارهای ایمنی مدل‌های پیشرفته. سان‌فرانسیسکو: شرکت Anthropic.

مؤسسه بروکینگز. (2026). کشورها چگونه مدل‌های هوش مصنوعی را ارزیابی می‌کنند؟ تحول NAAIMES و مؤسسات جهانی ایمنی هوش مصنوعی. واشنگتن: مؤسسه بروکینگز.

Kakaes, K. (2026). هوش مصنوعی یکی از مسائل ریاضی جایزه یک میلیون دلاری هزاره را حل کرده است. نیویورک: مجله Quanta، ۸ سپتامبر ۲۰۲۶.

مؤسسه پژوهش هوش ماشینی (MIRI). (2026). توافق‌نامه‌ای بین‌المللی برای جلوگیری از ایجاد زودهنگام ابرهوش مصنوعی. برکلی: MIRI، مه ۲۰۲۶.

وزارت الکترونیک و فناوری اطلاعات هند (MeitY). (2026). مأموریت IndiaAI: محور هوش مصنوعی ایمن و قابل اعتماد و دستورالعمل‌های ملی حکمرانی هوش مصنوعی. دهلی‌نو: دولت هند.

وزارت علوم، نوآوری و فناوری بریتانیا (DSIT). (2023). اعلامیه بلچلی درباره ایمنی هوش مصنوعی از سوی کشورهای شرکت‌کننده در اجلاس ایمنی هوش مصنوعی. لندن: وزارت علوم، نوآوری و فناوری بریتانیا.