هوش مصنوعی، تغییرات اقلیمی و امنیت جهانی؛ چرا جهان اکنون به مقررات بین‌المللی نیاز دارد؟
عالی‌جناب دکتر عبدالله بلهیف النعیمی خواستار تدوین مقررات بین‌المللی برای هوش مصنوعی شده است تا امنیت جهانی تضمین شود، از سوءاستفاده از این فناوری جلوگیری شود و نسل‌های آینده در امان بمانند.
هیچ کشور یا شرکتی به‌تنهایی نمی‌تواند بر هوش مصنوعی حکمرانی کند. جهان به چارچوبی بین‌المللی نیاز دارد تا اطمینان حاصل شود که هوش مصنوعی در خدمت امنیت، صلح و بشریت قرار می‌گیرد.
— عالی‌جناب دکتر عبدالله بلهیف النعیمی
ابوظبی، امارات متحده عربی، ۱۸ اکتبر ۲۰۲۶ — در یکی از دانشگاه‌های معتبر امارت ابوظبی از من دعوت شد تا در جمعی از جوانان درباره تغییرات اقلیمی و تأثیر آن بر سلامت، توسعه و اقتصاد جهانی سخنرانی کنم. محور اصلی سخنرانی روشن بود: زمین در حال گرم‌شدن است. میانگین دمای جهانی نسبت به دوران پیش از صنعتی‌شدن ۱٫۱ درجه سانتی‌گراد افزایش یافته و موج‌های گرمایی که پیش‌تر هر ۵۰ سال یک‌بار رخ می‌دادند، اکنون هر ۱۰ سال یک‌بار و با شدتی بسیار بیشتر اتفاق می‌افتند. این تغییرات اقلیمی دیگر آمارهایی انتزاعی نیستند؛ بلکه واقعیت‌هایی ملموس‌اند که بر سلامت، فرصت‌ها و آینده جوانان تأثیر می‌گذارند. بااین‌حال، آنچه بیش از خود تغییرات اقلیمی توجه مرا جلب کرد، بحث فزاینده میان کسانی بود که هوش مصنوعی را فرصتی تاریخی می‌دانند و کسانی که آن را تهدیدی وجودی تلقی می‌کنند.
این تغییر در گفت‌وگوها بازتاب‌دهنده واقعیتی تازه در جهان است: هوش مصنوعی دیگر فناوری‌ای خنثی نیست، بلکه به یکی از مهم‌ترین موضوعات مرتبط با آینده بشر تبدیل شده است. بر اساس نظرسنجی‌های بین‌المللی، ۶۰ درصد جوانان معتقدند هوش مصنوعی بر مشاغل آینده آنان تأثیر خواهد گذاشت و ۴۰ درصد نگران‌اند که این فناوری حریم خصوصی‌شان را تهدید کند یا الگوهای تازه‌ای از زندگی را، خارج از کنترل آنان، بر جامعه تحمیل کند. این نگرانی نه از خود فناوری، بلکه از نبود چارچوبی جهانی برای تنظیم و هدایت آن و اطمینان از به‌کارگیری‌اش در راستای منافع بشریت سرچشمه می‌گیرد. همین مسئله پرسشی را مطرح می‌کند که بارها در نشست مورد بحث قرار گرفت: چرا نهادی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) برای هوش مصنوعی وجود ندارد؟
مقایسه هوش مصنوعی با فناوری هسته‌ای اغراق‌آمیز نیست؛ این مقایسه اکنون به یکی از محورهای اصلی بحث‌های علمی و سیاسی در سراسر جهان تبدیل شده است. پیش از تأسیس آژانس بین‌المللی انرژی اتمی، جهان با آشفتگی در حوزه هسته‌ای روبه‌رو بود: مواد شکافت‌پذیر بدون نظارت جابه‌جا می‌شدند، رآکتورها بدون استانداردهای یکپارچه ساخته می‌شدند و خطر گسترش سلاح‌های هسته‌ای افزایش می‌یافت. امروزه هوش مصنوعی نیز در خلأیی مشابه قرار دارد. این فناوری دوکاربردی می‌تواند پزشکی، آموزش و انرژی را متحول کند، اما در عین حال قادر است امکان ساخت تسلیحات خودمختار یا سامانه‌های پیشرفته نفوذ سایبری را فراهم آورد. الگوی آژانس بین‌المللی انرژی اتمی درس‌های ارزشمندی برای حکمرانی هوش مصنوعی دارد؛ از جمله راستی‌آزمایی بدون افشای اطلاعات محرمانه، استقلال فنی و نظارت مستمر.
بااین‌حال، چالش اصلی در تفاوت چشمگیر رویکردهای کشورهای جهان به تنظیم مقررات هوش مصنوعی نهفته است. ایالات متحده، با وجود آنکه یکی از قطب‌های اصلی فناوری جهان به شمار می‌رود، قانون جامع فدرالی برای هوش مصنوعی ندارد و بیشتر به فرمان‌های اجرایی و دستورالعمل‌های فنی متکی است. در نتیجه، مجموعه‌ای پراکنده و ناهماهنگ از مقررات در سطح ایالت‌ها شکل گرفته است. در مقابل، چین از سال ۲۰۲۲ مجموعه‌ای از مقررات الزام‌آور درباره الگوریتم‌ها، محتوای مصنوعی و هوش مصنوعی مولد وضع کرده و همچنان با سرعت در حال به‌روزرسانی آن‌هاست. این شکاف مقرراتی میان دو قدرت بزرگ فناوری جهان نشان می‌دهد که نظارت در سطح ملی به‌تنهایی کافی نیست و ضرورت ایجاد چارچوبی یکپارچه در سطح بین‌المللی را افزایش می‌دهد.
در واکنش به این خلأ، سازمان ملل متحد در ژوئیه ۲۰۲۶ نخستین گفت‌وگوی جهانی درباره حکمرانی هوش مصنوعی را با حضور نمایندگان ۱۶۳ کشور و بیش از ۳۰۰۰ کارشناس برگزار کرد. نتیجه روشن بود: هیچ کشور یا شرکتی به‌تنهایی نمی‌تواند بر هوش مصنوعی حکمرانی کند. جهان به نهادی بین‌المللی و مستقل از نظر علمی نیاز دارد که گزارش‌های سالانه‌ای درباره قابلیت‌ها و خطرهای هوش مصنوعی منتشر کند و قواعدی روشن برای استفاده ایمن و عادلانه از آن تعیین کند. این رویداد آغازگر جنبشی جهانی در مسیر ایجاد «آژانس بین‌المللی هوش مصنوعی» است؛ ایده‌ای که در قاره‌های مختلف با استقبال فزاینده‌ای روبه‌رو شده است.
تجربه‌های اخیر نشان داده‌اند که سامانه‌های دیجیتال، هرقدر هم دقیق باشند، ممکن است هنگامی که نرم‌افزار با شرایط پیش‌بینی‌نشده مواجه می‌شود یا حملات هدفمند از آسیب‌پذیری‌های پنهان بهره‌برداری می‌کنند، از دستورالعمل‌های تعیین‌شده منحرف شوند. در حوزه هوش مصنوعی نیز مدل‌ها پیش‌تر رفتارهایی خارج از محدوده برنامه‌ریزی‌شده خود نشان داده‌اند؛ از جمله انحراف تدریجی در فرایند یادگیری، که طی آن الگوریتم‌ها بدون آگاهی اپراتور به‌تدریج تصمیم‌های خود را تغییر می‌دهند، و تصمیم‌گیری جعبه‌سیاه، که در آن نمی‌توان خروجی‌ها را توضیح داد یا پیش‌بینی کرد. در بخش‌های حساسی مانند هوانوردی، انرژی و حمل‌ونقل ریلی نیز حوادث واقعی رخ داده‌اند: عملکرد خودکار سامانه‌های هواپیماهای بوئینگ در پی دریافت اطلاعات نادرست از یک حسگر، اختلال در علائم راه‌آهن بر اثر حملات سایبری و بدافزارهایی مانند استاکس‌نت که باعث شدند سانتریفیوژهای هسته‌ای با سرعت‌های غیرعادی بچرخند، بی‌آنکه این وضعیت در نمایشگرهای سامانه‌های کنترل شناسایی شود. این رویدادها واقعیتی اساسی را آشکار می‌کنند: هر سامانه‌ای که به نرم‌افزار وابسته باشد، به‌ویژه اگر قابلیت یادگیری داشته باشد، ممکن است در یک لحظه از پروتکل‌های تعیین‌شده منحرف شود. بنابراین، چارچوبی سخت‌گیرانه برای تنظیم مقررات در سطح بین‌المللی یک گزینه اختیاری نیست، بلکه ضرورتی برای حفاظت از بشریت در برابر موقعیت‌های پیش‌بینی‌ناپذیر است.
اگر قابلیت‌های پیشرفته هوش مصنوعی به دست دولت‌های قانون‌گریز یا گروه‌های تروریستی مسئول خشونت گسترده و نقض شدید حقوق بشر بیفتد، دامنه خطرها بیشتر خواهد شد. نیروگاه‌های هسته‌ای به نرم‌افزارهای بسیار حساس وابسته‌اند و نفوذ عمدی به این سامانه‌ها می‌تواند سیستم‌های خنک‌کننده را از کار بیندازد، داده‌های حسگرها را تغییر دهد یا پروتکل‌های ایمنی را مختل کند. در هوانوردی، هواپیماهای مدرن به سامانه‌های دیجیتال ناوبری، مدیریت موتور و ارتباط مستمر با برج‌های مراقبت وابسته‌اند. نفوذی مبتنی بر هوش مصنوعی که بتواند خود را با شرایط وفق دهد و پنهان بماند، ممکن است مسیر پرواز را تغییر دهد، سامانه‌های فرود خودکار را مختل کند یا در ارتباط میان خلبان و مراقبت پرواز اختلال ایجاد کند. در شبکه‌های ریلی نیز دست‌کاری هدفمند سامانه‌های کنترل مرکزی می‌تواند علائم را تغییر دهد، ترمزها را از کار بیندازد یا تصادف‌هایی گسترده به بار آورد. این سناریوها تخیلی و محدود به داستان‌های علمی‌تخیلی نیستند؛ در نبود قوانین بین‌المللی سخت‌گیرانه‌ای که مانع رسیدن فناوری‌های پیشرفته هوش مصنوعی به دست بازیگران خطرناک شوند، وقوع چنین رویدادهایی امکان‌پذیر است.
آنچه در این نشست رخ داد، بازتاب‌دهنده لحظه‌ای سرنوشت‌ساز در جهان است: جوانان دیگر تنها درباره اقلیم، سلامت و امنیت غذایی پرسش نمی‌کنند، بلکه هوش مصنوعی، آینده آن، خطرهایش و فرصت‌هایی را که فراهم می‌کند نیز در کانون توجه قرار داده‌اند. همان‌طور که جهان در دهه ۱۹۵۰ برای حفاظت از بشریت در برابر آشفتگی هسته‌ای به آژانس بین‌المللی انرژی اتمی نیاز داشت، اکنون نیز به آژانس بین‌المللی هوش مصنوعی نیازمند است؛ نهادی که قواعدی روشن تعیین کند، بر نحوه استفاده از این فناوری نظارت داشته باشد، از سوءاستفاده جلوگیری کند و از نسل‌های آینده محافظت کند. امارات متحده عربی، با چشم‌انداز آینده‌نگرانه و زیرساخت دیجیتال پیشرفته خود، موقعیت مناسبی برای ایفای نقشی پیشرو در شکل‌دهی به این چارچوب جهانی دارد؛ همان‌گونه که در دیپلماسی اقلیمی نیز چنین نقشی ایفا کرده است.
امروز از اصلی جهانی دفاع می‌کنیم که می‌تواند راهنمای این مسیر باشد:
«هوش مصنوعی در خدمت امنیت و صلح».
نویسنده: عالی‌جناب دکتر عبدالله بلهیف النعیمی
رئیس مرکز امارات اسکالر برای پژوهش و مطالعات