هوش مصنوعی در آستانه کنار زدن انسان از تصمیم‌گیری در جنگ است

خبر سازمان ملل | ۲۱ اکتبر ۲۰۲۶

هوش مصنوعی هم‌اکنون به‌طور گسترده در میدان‌های نبرد به کار گرفته می‌شود و نقش قضاوت انسانی در عملیات نظامی به‌سرعت در حال کاهش است. مدیر مؤسسه مستقل پژوهش‌های خلع سلاح سازمان ملل متحد روز سه‌شنبه درباره این روند هشدار داد.

رابین گایس، مدیر مؤسسه پژوهش‌های خلع سلاح سازمان ملل (UNIDIR)، در نشست توجیهی خود با خبرنگاران در مقر سازمان ملل در نیویورک، پرسشی صریح مطرح کرد: «آیا قرار است به ماشین‌ها اجازه دهیم انسان‌ها را هدف قرار دهند و بکشند؟» او هشدار داد که هوش مصنوعی در حوزه نظامی به‌سرعت به سمتی پیش می‌رود که تصمیم‌گیری انسانی را به حاشیه براند.

دبیرکل سازمان ملل متحد بارها از ذی‌نفعان خواسته است اطمینان حاصل کنند که از این «خط قرمز اخلاقی» عبور نمی‌شود.

فرماندهی در دست ماشین‌ها

هوش مصنوعی مسئولیت‌های فزاینده‌ای در امور نظامی بر عهده می‌گیرد؛ از تحلیل اطلاعات و شناسایی اهداف گرفته تا هدایت عملیات پهپادی و هماهنگ‌سازی حملات سایبری.

گایس تأکید کرد که این تحول به بهای کاهش نقش قضاوت انسانی تمام می‌شود و حتی حوزه هسته‌ای را نیز در بر می‌گیرد.

این تغییر سرعت عملیات در میدان نبرد را به‌شدت افزایش می‌دهد، فاصله زمانی میان شناسایی هدف و حمله به آن را کوتاه‌تر می‌کند و به نیروهای نظامی امکان می‌دهد هر روز با شمار بی‌سابقه‌ای از اهداف درگیر شوند.

در عین حال، بسیاری از سامانه‌های هوش مصنوعی در حال توسعه، شفافیت کافی ندارند. رئیس مؤسسه پژوهش‌های خلع سلاح سازمان ملل هشدار داد که این سامانه‌ها خطر خطا و محاسبات نادرست را افزایش می‌دهند و در نتیجه ممکن است به تشدید ناخواسته درگیری‌ها بینجامند.

او همچنین گفت که با ساده‌تر شدن استفاده از ابزارهای هوش مصنوعی، گروه‌های غیردولتی نیز آسان‌تر خواهند توانست عملیات نظامی پیچیده‌تری انجام دهند.

همگرایی در عرصه ژئوپلیتیک

گایس اذعان کرد که رقابت‌ها و تنش‌های ژئوپلیتیکی، «موانعی جدی» بر سر راه تنظیم مقررات مربوط به استفاده از هوش مصنوعی در حوزه نظامی هستند.

با این حال، او تأکید کرد که نگرانی درباره خطرات این فناوری، فارغ از دیدگاه‌های سیاسی، بیش از پیش میان کشورها و قدرت‌های بزرگ جهان مشترک شده است.

برای نمونه، ایالات متحده در ماه سپتامبر پیشنهاد ایجاد یک «سازوکار اطلاع‌رسانی» با چین درباره هوش مصنوعی را مطرح کرد تا دو کشور که بیشترین هزینه‌های نظامی جهان را دارند، بتوانند یکدیگر را از وقوع حوادث مرتبط با هوش مصنوعی که ممکن است امنیت ملی را تهدید کنند، آگاه سازند.

به گفته مدیر مؤسسه پژوهش‌های خلع سلاح سازمان ملل، درخواست‌های مکرر دبیرکل این سازمان برای تقویت مقررات مربوط به هوش مصنوعی نظامی و تدوین معاهده‌ای الزام‌آور از نظر حقوقی درباره سامانه‌های تسلیحاتی خودمختار مرگبار نیز «بیش از پیش در جامعه بین‌المللی بازتاب پیدا می‌کند».

پاسخی چندجانبه

مؤسسه پژوهش‌های خلع سلاح سازمان ملل فعالانه در تلاش است زمینه‌های لازم را برای همکاری چندجانبه در این زمینه فراهم کند.

گایس اعلام کرد که مرکز تخصصی هوش مصنوعی، صلح و امنیت این مؤسسه روز پنجشنبه مجمعی جدید با حضور ذی‌نفعان مختلف راه‌اندازی خواهد کرد. این مجمع به نقش هوش مصنوعی در صلح و امنیت بین‌المللی و کاربردهای نظامی آن می‌پردازد و به گفته او، نخستین و تنها مجمع از این نوع در ساختار سازمان ملل تا زمان اعلام این خبر است.

این مجمع بر سه محور تمرکز خواهد کرد:

1. تدوین چارچوبی برای رفتار مسئولانه صنعت، شامل دستورالعمل‌های عملی و داوطلبانه‌ای که شرکت‌ها هنگام طراحی و توسعه ابزارهای نظامی مبتنی بر هوش مصنوعی از آن‌ها پیروی کنند.
2. تدوین «واژگان امنیت هوش مصنوعی» برای روشن کردن مفاهیم کلیدی مانند خودمختاری، ایمنی و امنیت. این اصطلاحات در حال حاضر از سوی ذی‌نفعان مختلف به شیوه‌های متفاوتی به کار می‌روند و همین ابهام، اعتماد و همکاری را دشوار می‌کند.
3. بررسی خطر سوءاستفاده گروه‌های مسلح غیردولتی از هوش مصنوعی برای پشتیبانی از برنامه‌ریزی عملیاتی، اجرای عملیات و امور پشتیبانی و تدارکات.