گزارش آنتروپیک نشان می‌دهد هوش مصنوعی حملات سایبری و عملیات نفوذ در آفریقا را گسترش می‌دهد
گزارش اخیر اطلاعات تهدید شرکت آنتروپیک نشان می‌دهد عوامل مخرب چگونه از عامل‌های هوش مصنوعی این شرکت برای انجام حملات سایبری، عملیات نظارتی و کارزارهای نفوذ آنلاین استفاده می‌کنند.
رهبران آفریقا باید با توجه ویژه‌ای این موضوع را دنبال کنند؛ زیرا نرخ نسبتاً پایین سواد دیجیتال، شکاف‌های دیجیتال و فاصله میان سرعت دسترسی به هوش مصنوعی و کندی روندهای قانون‌گذاری، خطرهای بیشتری برای این قاره ایجاد کرده است. شهروندان ممکن است در معرض سرقت داده، نظارت در مقیاس گسترده و فریب در کارزارهای نفوذ مبتنی بر هوش مصنوعی قرار گیرند.
گزارش آنتروپیک بر استفاده‌های مخرب از عامل هوش مصنوعی Claude تمرکز دارد؛ سامانه‌ای که حدود ۳۰ میلیون کاربر در سراسر جهان دارد. این گزارش می‌گوید Claude برای انجام حملات سایبری، نظارت و عملیات نفوذ به کار گرفته شده است. استفاده‌کنندگان شامل نهادهای تبلیغاتی دولتی، نیروهای وابسته به آنها، افراد دارای انگیزه‌های سیاسی و همچنین مجموعه‌های مجرمانه و تجاری بوده‌اند. نمونه‌های بررسی‌شده شامل کنیا، جمهوری آفریقای مرکزی، جمهوری دموکراتیک کنگو (DRC)، سودان و مالی بوده است.
هوش مصنوعی فقط برای تولید محتوایی که کاربران را فریب می‌دهد استفاده نمی‌شود، بلکه به‌عنوان ابزاری برای افزایش مقیاس عملیات به کار می‌رود. برای نمونه، این فناوری امکان تولید سریع تعداد زیادی پست در شبکه‌های اجتماعی برای کارزارهای نفوذ یا نوشتن ده‌ها هزار قطعه کد مخرب را فراهم می‌کند؛ اقدامی که می‌تواند از توان شناسایی سریع تهدیدها پیشی بگیرد.
در حوزه جرایم سایبری سنتی، Claude برای بررسی شبکه‌های رایانه‌ای به‌منظور یافتن آسیب‌پذیری‌ها و شناسایی اهداف حملات فیشینگ استفاده شده است. اینترپل اخیراً هشدار داده بود که ۵۵ درصد از تمام جرایم سایبری گزارش‌شده در آفریقا با استفاده از هوش مصنوعی انجام شده‌اند.
با وجود اینکه هنوز در بیشتر نفوذها دخالت انسانی وجود دارد و «هنوز شاهد حملات کاملاً خودکار نیستیم»، جاستین هورنزبی، مدیر ارشد اطلاعات گروه Alpha، به ISS Today گفت چنین سناریویی ممکن است در آینده رخ دهد. او تأکید کرد که کنترل‌های سخت‌گیرانه‌تر، از جمله قوانین مشخص درباره مدل‌های هوش مصنوعی مورد استفاده کارکنان سازمان‌ها و محدودیت دسترسی به داده‌ها، ضروری است.
تحقیقات آنتروپیک نشان داد عامل‌های هوش مصنوعی این شرکت برای جمع‌آوری اطلاعات، انجام «ماموریت‌های شناسایی» و «ایجاد زیرساخت» لازم برای نفوذ به یک نهاد فناوری دولتی در شمال آفریقا (که نام آن اعلام نشده) استفاده شده‌اند. در نتیجه، بیش از ۳۰۰ هزار رکورد هویت ملی و داده‌های بیش از ۵۰۰ هزار شرکت فعال در آن کشور در معرض افشا قرار گرفت.
آسیب‌پذیری‌های احتمالی در سراسر آفریقا گسترده است. طبق اعلام آژانس توسعه اتحادیه آفریقا، اکنون حدود ۴۵ دولت در حال اجرای سامانه‌های دیجیتال برای بهبود ارائه خدمات هستند. با حرکت کشورهای بیشتری به سمت دولت الکترونیک، در صورت تقویت نشدن تدابیر ایمنی، خطرهای مرتبط با هوش مصنوعی افزایش خواهد یافت.
برخی مدل‌های Claude همچنین در عملیات نظارتی در مالی استفاده شده‌اند. تحقیقات آنتروپیک نشان داد این عامل توانسته برخی سازوکارهای حفاظتی را دور بزند و برای هدف قرار دادن و ایجاد پروفایل از چهره‌های مخالف سیاسی به کار گرفته شده است.
همچنین نگرانی‌ها درباره حملات هوش مصنوعی علیه دوربین‌های خیابانی و دیگر دستگاه‌های متصل در آفریقای جنوبی افزایش یافته است. برخی کارشناسان خواستار بازنگری مقررات نهاد تنظیم‌گر اطلاعات این کشور شده‌اند؛ مقرراتی که به گفته آنها با سرعت تغییرات فناوری همگام نیست.
با این حال، استفاده از Claude برای تولید کارزارهای نفوذ در مقیاس گسترده در کشورهای آفریقایی شاید چشمگیرترین نمونه باشد. چندین مورد از این عملیات به عوامل خارجی مرتبط شده‌اند که روسیه یکی از بازیگران اصلی در میان آنها بوده است.
در جمهوری آفریقای مرکزی، محققان شبکه‌ای از ایستگاه‌های رادیویی جعلی را شناسایی کردند که محتوای تولیدشده با هوش مصنوعی منتشر می‌کردند. این عوامل مخرب از Claude برای حذف قالب‌بندی‌هایی استفاده کردند که معمولاً نشانه تولید مصنوعی محتوا هستند. این کار تشخیص محتوا را حتی برای سامانه‌های دفاعی مبتنی بر هوش مصنوعی دشوارتر می‌کند. تحقیقات درباره دستکاری اطلاعات در جمهوری آفریقای مرکزی نشان داده است نیروهای محلی استخدام‌شده توسط گروه واگنر روسیه مأمور تولید محتوای طرفدار روسیه برای مخاطبان محلی بوده‌اند.
آنتروپیک می‌گوید جمهوری دموکراتیک کنگو بخشی از شبکه‌ای برای تولید اخبار جعلی بوده است. محققان این شرکت ۳۱۸ مقاله را در چندین وب‌سایت خبری جعلی پیدا کردند که با محتوای تولیدشده توسط عامل‌های هوش مصنوعی این شرکت ایجاد و تکمیل شده بودند. به گفته آنتروپیک، Claude ظاهراً برای «انسانی‌تر کردن و اصلاح مجموعه‌هایی از ۵۰ موضوع و توییت از پیش آماده‌شده» استفاده شده و امکان انتشار حجم زیادی از محتوا را بدون نظارت انسانی کافی فراهم کرده است.
Claude همچنین در کارزارهای نفوذ داخلی استفاده شده است. آنتروپیک اعلام کرد این سامانه برای تولید مجموعه‌هایی از ۵۰ توییت به کار گرفته شد که قرار بود «مانند دیدگاه‌های خودجوش مردمی و نه یک کارزار هماهنگ‌شده» به نظر برسند؛ اقدامی که پیش از انتخابات سال آینده کنیا انجام می‌شد. یکی از روایت‌های جعلی این بود که مخالفان دولت کنیا پیش از انتخابات در حال فروپاشی هستند.
چنین کارزارهای موسوم به «استروفرفینگ» که تلاش می‌کنند تعاملات مصنوعی را شبیه مشارکت واقعی مردم نشان دهند، پیش‌تر در انتخابات کنیا نیز دیده شده بودند. هوش مصنوعی توزیع این محتوا را سریع‌تر می‌کند و انجام چنین عملیات‌هایی را برای افراد آسان‌تر می‌سازد. همانند دیگر نمونه‌های بررسی‌شده، Claude در کنیا برای برنامه‌ریزی کارزارها، انتخاب اهداف و تولید محتوا استفاده شد.
آنتروپیک می‌گوید توانسته است بیشتر این کارزارها را مختل کند، اما نیاز به شناسایی و پیشگیری بهتر را نیز پذیرفته است. تحقق این هدف به اشتراک‌گذاری اطلاعات میان بخش خصوصی و دولت نیاز دارد. با این حال، تحریم اخیر همکاری پنتاگون با آنتروپیک در ایالات متحده ممکن است نشانه‌ای از بی‌میلی دولت‌ها و شرکت‌های فناوری برای همکاری نزدیک‌تر باشد.
در کشورهایی مانند آفریقای جنوبی، که در زمینه نوآوری بومی هوش مصنوعی پیشتاز قاره است، رویکردهای جزیره‌ای در امنیت سایبری همچنان ادامه دارد. اطلاعات تهدید ممکن است به‌صورت غیررسمی میان بانک‌ها و نهادهای دولتی مبادله شود، اما اشتراک‌گذاری نظام‌مند اطلاعات کند است. این کشور یک مرکز برتری امنیت سایبری آفریقا با محوریت بخش خصوصی ایجاد کرده است، اما مرکز هماهنگی امنیت سایبری دولتی که یک دهه پیش در چارچوب سیاست ملی امنیت سایبری وعده داده شده بود، هنوز راه‌اندازی نشده است.
با وجود افزایش آسیب‌پذیری آفریقای جنوبی در برابر حملات سایبری، این کشور هنوز راهبردی برای هوش مصنوعی ندارد و سازمان‌های دولتی حدود دو سوم کمتر از شرکت‌های خصوصی در امنیت سایبری سرمایه‌گذاری می‌کنند. کارشناسان در یک کنفرانس فناوری اخیر همچنین اعلام کردند دولت از سامانه‌های قدیمی استفاده می‌کند که اصلاح آنها دشوارتر است.
در مقابل، نیجریه که تقریباً در سطح آفریقای جنوبی در توسعه هوش مصنوعی قرار دارد، سیاستی دارد که بر توسعه و استقرار مسئولانه و اخلاقی هوش مصنوعی تأکید می‌کند.
دولت‌ها نباید دچار خودرضایتی شوند. افشای سپتامبر شرکت OpenAI درباره اینکه عامل‌های هوش مصنوعی این شرکت با وب‌سایت‌های دولتی آمریکا به «شیوه‌هایی غیرمنتظره» تعامل کرده‌اند و گزارش‌های تأییدنشده درباره تلاش ناموفق همین عامل‌ها برای نفوذ به یک وب‌سایت دولتی آمریکا، نگرانی‌های جهانی را افزایش داده است.
اجرای سیاست‌های پایه برای استفاده از هوش مصنوعی در کشورهای آفریقایی می‌تواند نقطه شروع مهمی باشد. کارکنان شرکت‌ها و دولت‌ها نه‌تنها ممکن است هنگام آزمایش ابزارهای هوش مصنوعی اطلاعات حساس را وارد مدل‌های زبانی عمومی کنند، بلکه ممکن است خود و سازمان‌هایشان را در معرض نفوذهای بیشتر قرار دهند.
کارن آلن، مشاور ISS
این مقاله با اجازه از ISS Today بازنشر شده است. نسخه اصلی مقاله را بخوانید.