کارزار مرتبط با ایران با کمک هوش مصنوعی نام‌های جعلی را در رسانه‌های معتبر منتشر کرد
یک عملیات مرتبط با ایران از ChatGPT برای تولید حدود ۱۰۰ مقاله دیدگاهی با هویت‌های ساختگی استفاده کرد؛ اقدامی که نشان می‌دهد کارزارهای نفوذ مبتنی بر هوش مصنوعی تا چه اندازه می‌توانند از آسیب‌پذیری ناشران کوچک‌تر و پلتفرم‌های اجتماعی خبری بهره بگیرند.
تحقیقی تازه درباره یک عملیات انتشار اطلاعات نادرست مرتبط با ایران نشان داده است که هوش مصنوعی می‌تواند برای پر کردن وب‌سایت‌های خبری با مطالبی استفاده شود که ظاهراً دیدگاه‌هایی معتبر هستند اما زیر نام نویسندگانی جعلی منتشر شده‌اند. این موضوع نگرانی‌های تازه‌ای درباره آسیب‌پذیری رسانه‌های کوچک‌تر و پلتفرم‌های اجتماعی ایجاد کرده است.
به گفته OpenAI، این کارزار از ChatGPT برای تولید و اصلاح حدود ۱۰۰ مقاله جعلی استفاده کرده که در دست‌کم ۲۰ رسانه با نام‌های نویسندگان ساختگی منتشر شده‌اند. این شرکت اعلام کرد این محتوا به کاربرانی در ایران مرتبط بوده و تمرکز اصلی آن جنگ با ایران و هزینه‌های احتمالی آن برای آمریکایی‌ها بوده است؛ بسیاری از این مطالب به جای تبلیغات آشکار، در قالب یادداشت‌های ضدجنگ ارائه شده بودند. این عملیات تنها به نگارش مقاله‌ها محدود نبود و گفته می‌شود کاربران از چت‌بات خواسته بودند متن‌ها را با الزامات رسانه‌های مشخص تطبیق دهد و پیام‌های پیشنهادی برای سردبیران نیز تهیه کند.
یکی از هویت‌های جعلی شناسایی‌شده توسط OpenAI، اروین هاسکینز بود که نام او در یک یادداشت منتشرشده در هفته‌نامه کوچک Port St. Joe Star در فلوریدا دیده شد. این مطلب هشدار می‌داد هزینه‌های جنگ حتی پس از پایان درگیری‌ها همچنان بر آمریکایی‌ها تأثیر خواهد گذاشت. دیوید آدلرشتاین، ناشر این روزنامه، به واشنگتن‌پست گفت این مطلب از طریق سازمان PeaceVoice، یک نهاد لیبرال مستقر در اورگن که سال‌ها مطالبی برای این نشریه فراهم کرده، ارسال شده بود. او گفت به دلیل رابطه طولانی این گروه با نشریه، منبع مقاله را بررسی نکرده و هویت نویسنده را نیز تأیید نکرده است. این روزنامه منطقه گلف کانتی را پوشش می‌دهد که حدود ۱۵ هزار نفر جمعیت دارد و آدلرشتاین گفت در حال بررسی تدوین سیاستی روشن‌تر درباره استفاده از هوش مصنوعی است.
این ماجرا به رسانه‌های آنلاین بزرگ‌تر نیز رسید. OpenAI اعلام کرد هاسکینز یکی از هفت نامی بوده که به این کارزار مرتبط شده‌اند و رسانه‌هایی مانند Middle East Monitor و Daily Kos نیز مطالبی را با نام نویسندگان جعلی منتشر کرده بودند. Middle East Monitor که خود را حامی آرمان فلسطین معرفی می‌کند، مقاله‌هایی را که جعلی تشخیص داده بود حذف کرد و Daily Kos گفت بخشی از این مطالب از طریق یک پلتفرم اجتماعی منتشر شده بود که بررسی پیش از انتشار نداشت. مارکوس مولیتساس، بنیان‌گذار این وب‌سایت، گفت این عملیات اعتماد در پلتفرم را تضعیف کرده و باعث شده کاربران در زمان اختلاف نظر، یکدیگر را به ربات بودن متهم کنند.
OpenAI اعلام کرد حساب‌های مرتبط با این فعالیت را مسدود کرده، دسترسی به ChatGPT از ایران را محدود کرده و اطلاعات مربوطه را با نهادهای مسئول به اشتراک گذاشته است؛ هرچند این شرکت گفت نتوانسته مشخص کند مسئول نهایی این عملیات چه کسی بوده است. این شرکت اعلام کرد هدف از انتشار یافته‌ها، آگاه‌کردن قانون‌گذاران، کسب‌وکارها و افکار عمومی درباره نحوه سوءاستفاده بازیگران مخرب از هوش مصنوعی مولد و ضعف‌هایی در روندهای کاری رسانه‌ای است که اجازه می‌دهد مطالب جعلی به عنوان محتوای واقعی منتشر شوند. با این حال، درس گسترده‌تر این ماجرا تنها به یک کشور یا یک پلتفرم محدود نمی‌شود: هرچه ابزارهای هوش مصنوعی توانمندتر و در دسترس‌تر می‌شوند، مسئولیت سردبیران برای بررسی نام‌ها، منابع و سابقه ارسال مطالب سنگین‌تر می‌شود؛ حتی در اتاق‌های خبری کوچک که منابع محدودی دارند.