استفاده از هوش مصنوعی در پروژه‌های موشکی یمن؛ گزارش آنتروپیک از سوءاستفاده از کلود
گزارشی که شرکت آمریکایی هوش مصنوعی آنتروپیک منتشر کرده و روزنامه بریتانیایی دیلی‌میل نیز آن را پوشش داده است، نگرانی‌هایی درباره سوءاستفاده از سامانه‌های هوش مصنوعی برای اهداف نظامی غیرمجاز ایجاد کرده است. بر اساس یافته‌های آنتروپیک، گروهی فعال در شمال یمن، منطقه‌ای با حضور پررنگ حوثی‌ها، ظاهراً از چت‌بات کلود این شرکت برای بهبود کدنویسی و توسعه الگوریتم‌های مورد استفاده در پروژه‌های مرتبط با تسلیحات بهره گرفته است.
این پرونده از نخستین نمونه‌های مستند استفاده از پلتفرم‌های پیشرفته هوش مصنوعی برای کمک به انجام بخشی از کار مهندسان نرم‌افزار در توسعه سامانه‌های پیچیده، یا حتی جایگزینی احتمالی بخشی از این کارها، به شمار می‌رود؛ نه صرفاً استفاده از سلاحی که از پیش عملیاتی شده باشد.
چگونگی وقوع سوءاستفاده و ناکامی برخی سازوکارهای حفاظتی
آنتروپیک در گزارش خود اعلام کرد این گروه در تلاش برای توسعه سه برنامه تسلیحاتی متفاوت بوده است. این برنامه‌ها شامل یک راکت هدایت‌شونده با ترکیب نرم‌افزارهای خودکارساز متن‌باز با سخت‌افزارهای تجاری موجود و قطعات تلفن همراه، یک موشک بالستیک چندمرحله‌ای و یک برنامه موشکی چندگونه با نام R2000 بوده که شامل یک نسخه مجهز به وسیله نقلیه گلاید هایپرسونیک نیز می‌شده است.
آنتروپیک نوشت: «سازوکارهای حفاظتی ما بسیاری از درخواست‌های آن‌ها را مسدود کرد، اما همه آن‌ها را نه. آن‌ها از روش‌های مختلفی برای دور زدن تدابیر حفاظتی ما استفاده کردند و کار خود را میان چندین نشست مختلف تقسیم کردند.»
این گروه با تقسیم درخواست‌ها به پرسش‌های کوچک‌تر و پراکنده کردن فعالیت‌های خود در نشست‌های جداگانه، توانست برخی فیلترهای خودکار را دور بزند و برای نوشتن و توسعه نرم‌افزارهای هدایت، ناوبری و کنترل (GNC) کمک دریافت کند؛ نرم‌افزارهایی که برای پایدار نگه داشتن وسایل پروازی در حین حرکت ضروری هستند.
پس از آنچه ظاهراً یک پرتاب آزمایشی ناموفق بود، کاربران دوباره از این پلتفرم پرس‌وجو کردند تا علت شکست را بررسی کنند. آنتروپیک سپس فعالیت مشکوک را شناسایی کرد، حساب‌های مرتبط را غیرفعال کرد و یافته‌های خود را با مقام‌های مربوطه به اشتراک گذاشت.
آنچه یافته‌ها نشان می‌دهد و مواردی که هنوز اثبات نشده است
این گزارش شواهد مستقیمی ارائه نکرده است که نشان دهد سامانه‌های هدایت‌شونده واقعاً با استفاده از کدهای تولیدشده توسط هوش مصنوعی ساخته شده‌اند یا به مرحله عملیاتی رسیده‌اند. همچنین تاکنون ارتباط علّی مستقیمی میان تعاملات کاربران با این مدل و حملات اخیر ثبت‌شده در سراسر شبه‌جزیره عربستان اثبات نشده است.
این رویداد در شرایطی رخ داده است که بی‌ثباتی نظامی در منطقه خلیج فارس همچنان ادامه دارد و از سال ۲۰۱۴ تاکنون استفاده از تسلیحات دوربرد در حملات تکرارشونده مشاهده شده است؛ از جمله حملات سپتامبر ۲۰۱۹ به تأسیسات نفتی بقیق و خریص عربستان سعودی.
محدودیت‌های تدابیر حفاظتی دیجیتال در عصر فناوری‌های دومنظوره
این پرونده پرسش‌های پیچیده‌ای را برای صنعت فناوری و امنیت جهانی مطرح می‌کند و نشان می‌دهد ابزارهای کدنویسی مبتنی بر هوش مصنوعی و مدل‌های زبانی بزرگ چگونه می‌توانند برای کاربردهای دومنظوره، یعنی هم اهداف غیرنظامی و هم نظامی، مورد استفاده مجدد قرار گیرند. از آنجا که این فعالیت تنها پس از وقوع شناسایی شد، این مورد دشواری جلوگیری از چنین سوءاستفاده‌هایی را از همان ابتدا نشان می‌دهد.