چهره‌های عاریتی ایران: هوش مصنوعی چگونه اعتماد به روزنامه‌نگاری را به چالش می‌کشد؟
نویسنده: نیما مینا | ۲۸ اکتبر ۲۰۲۶
روزنامه‌ای کوچک در ایالت فلوریدا مقاله‌ای از اروین بی. هاسکینز، نویسنده آزاد، منتشر کرد که درباره پیامدهای جنگ با ایران به آمریکایی‌ها هشدار می‌داد. مقاله‌های مشابهی نیز با نام او در نشریات دیگری، از جمله دیلی کاس و میدل ایست مانیتور، منتشر شدند.
اما هاسکینز در واقع روزنامه‌نگار آزاد نبود. او یکی از هفت نویسنده خیالی بود که در چارچوب یک عملیات نفوذ مستقر در ایران، نزدیک به ۱۰۰ مقاله را در نشریات آنلاین سراسر جهان منتشر کردند.
این طرح در جریان تحقیقی از سوی اوپن‌ای‌آی که ۸ اکتبر منتشر شد، افشا شد. عاملان عملیات از چت‌جی‌پی‌تی برای بازبینی مقاله‌های انگلیسی، تطبیق آن‌ها با الزامات تحریریه نشریات مختلف و نوشتن ایمیل‌های پیشنهادی برای سردبیران استفاده می‌کردند. برخی از مقاله‌های حاصل نیز از طریق حساب‌های رسمی نشریاتی که آن‌ها را منتشر کرده بودند، در شبکه‌های اجتماعی تبلیغ شدند.
این عملیات صرفاً به تولید استدلال‌های سیاسی محدود نبود؛ بلکه به آن‌ها ظاهری مستقل می‌بخشید و پس از انتشار، بخشی از اعتبار رسانه‌های شناخته‌شده را نیز به آن‌ها منتقل می‌کرد.
البته این موضوع لزوماً به معنای نادرست بودن استدلال‌های مطرح‌شده نبود. مقاله‌ای می‌توانست حاوی انتقادی موجه از سیاست‌های آمریکا یا اسرائیل باشد، اما هویت فرد یا نهادی که سفارش‌دهنده یا تهیه‌کننده آن بود، پنهان بماند. بنابراین، گمراهی مخاطبان لزوماً درباره ادعاهای مطرح‌شده نبود، بلکه درباره هویت کسی بود که آن ادعاها را بیان می‌کرد.
این تمایز برای روزنامه‌نگاری اهمیت دارد. تحریریه‌ها وقت و انرژی زیادی صرف بررسی صحت اطلاعات و ارزیابی کیفیت مطالب ارسالی می‌کنند. بااین‌حال، کار آن‌ها به فرض دیگری نیز وابسته است که کمتر به چشم می‌آید: اینکه نویسنده یا همکار معرفی‌شده واقعاً همان کسی باشد که ادعا می‌کند.
پرونده اوپن‌ای‌آی نشان می‌دهد چگونه می‌توان از این فرض سوءاستفاده کرد. این پرونده همچنین بُعد تازه‌ای به تحقیقی از آنتروپیک می‌افزاید که در سپتامبر منتشر شد و چند عملیات مرتبط با ایران را مستند کرد که از کلود استفاده می‌کردند. در یکی از آن‌ها، عامل عملیات حدود ۸۴۰۰ پست تلگرامی متعلق به یک فعال ایرانی را در اختیار سامانه گذاشت و از آن خواست سبک نگارش او را تقلید کند. سپس از خروجی هوش مصنوعی در گفت‌وگو با افرادی استفاده شد که به گفته آنتروپیک، نمی‌دانستند با فردی روبه‌رو هستند که هویتش با کمک هوش مصنوعی جعل شده است.
در موارد دیگر، سازمان‌های همسو با حکومت منشأ سازمانی مطالب سیاسی را پنهان می‌کردند و عاملانی مرتبط با نهادهای امنیتی از هوش مصنوعی برای شناسایی هویت افراد پشت حساب‌های ناشناس شبکه‌های اجتماعی بهره می‌گرفتند.
این فعالیت‌ها را بازیگران مختلفی، از جمله طرف‌های سیاسی متخاصم، انجام داده‌اند و شواهدی وجود ندارد که نشان دهد همه آن‌ها بخشی از یک عملیات واحد بوده‌اند. بااین‌حال، در تمام این موارد، رابطه میان اطلاعات منتشرشده و هویتی که در کنار آن معرفی می‌شد، دست‌کاری شده است.
این دو تحقیق از آن جهت اهمیت ویژه‌ای دارند که اوپن‌ای‌آی و آنتروپیک توانستند نحوه استفاده از سامانه‌های خود را در زمانی بررسی کنند که عملیات هنوز در حال آماده‌سازی بود. پژوهشگران این شرکت‌ها به دستورها، مجموعه‌داده‌ها و فرایندهای تولیدی دسترسی داشتند؛ اطلاعاتی که روزنامه‌نگاران معمولاً هنگام بررسی مطالب منتشرشده به آن‌ها دست پیدا نمی‌کنند.
این جایگاه ویژه به معنای پاسخ‌گویی به تمام پرسش‌ها درباره مسئولیت یا میزان تأثیرگذاری نیست. بااین‌حال، نشان می‌دهد که تشخیص منشأ اطلاعات سیاسی، به‌اندازه بررسی محتوای آن اهمیت پیدا کرده است.
روزنامه‌نگارانی که وجود خارجی نداشتند
اوپن‌ای‌آی نام «امضاهای جعلی» (Bogus Bylines) را برای عملیات ایرانی انتخاب کرد. هفت «روزنامه‌نگار» این عملیات اروین بی. هاسکینز، نوآ لمینگتون، سوفیا گونزالس، مایکل هریسون، اریکا فوزیه، جنی ویلیامز و آلیس جانسون بودند. در زندگی‌نامه‌های ساختگی آن‌ها معمولاً از نویسندگان آزاد یا مفسران غربی علاقه‌مند به روابط بین‌الملل، حقوق بشر و منازعات سخن گفته می‌شد. بیشتر آن‌ها آمریکایی معرفی شده بودند و لمینگتون را ساکن نیوزیلند قلمداد می‌کردند.
این عملیات تنها به استفاده از نام‌های جعلی متکی نبود. برای چند نفر از این هویت‌ها، حساب‌های پشتیبان در شبکه‌های اجتماعی نیز ساخته شده بود. مایکل هریسون در مدیوم، ایکس و فیس‌بوک حضور داشت و هاسکینز در ایکس، فیس‌بوک، اینستاگرام و تردز حساب داشت. اطلاعات شفافیت حساب‌های هاسکینز نشان می‌داد که فعالیت‌هایی از ایران در آن‌ها ثبت شده است؛ این در حالی بود که در زندگی‌نامه‌اش ادعا می‌شد نویسنده‌ای آزاد و آمریکایی است. متا در ماه اوت حساب اینستاگرام او را حذف کرد.
عاملان عملیات حتی از چت‌جی‌پی‌تی خواسته بودند زندگی‌نامه حرفه‌ای هریسون را بنویسد. چنین جزئیاتی به ایجاد تصویر یک نویسنده باسابقه کمک می‌کرد. سردبیری که نام یک نویسنده را بررسی می‌کرد، ممکن بود به مقاله‌های قبلی، شرح‌حال حرفه‌ای و چندین حساب ظاهراً تأییدکننده هویت او برسد.
قدیمی‌ترین مقاله‌ای که اوپن‌ای‌آی در این عملیات شناسایی کرد، در ژوئیه ۲۰۲۵ منتشر شده بود. پس از آغاز جنگ سال ۲۰۲۶ با مشارکت ایران، اسرائیل و آمریکا، انتشار مطالب در ماه مارس شتاب گرفت. این مقاله‌ها عمدتاً درباره جنگ، سیاست بین‌الملل و پیامدهای اقدامات نظامی آمریکا بودند.
روش کار عاملان با رویه‌های معمول روزنامه‌نگاری تطبیق داده شده بود. آن‌ها پیش‌نویس‌های انگلیسی را به چت‌جی‌پی‌تی می‌دادند و از آن می‌خواستند مطالب را با دستورالعمل‌های ارسال مقاله به یک نشریه مشخص مقایسه کند. سامانه تغییرات پیشنهادی را ارائه می‌داد و عاملان می‌توانستند پیش از درخواست برای نوشتن ایمیل همراه خطاب به سردبیر، آن‌ها را تأیید کنند. این کار چیزی فراتر از تبلیغات سیاسی پراکنده در اینترنت بود: مطالب با هدف ورود به فرایندهای تحریریه‌ای نشریات واقعی آماده می‌شدند.
یکی از مسیرهای انتشار زمانی آشکار شد که روزنامه واشنگتن پست بررسی کرد مقاله‌ای از هاسکینز چگونه به روزنامه هفتگی پورت سنت جو استار در فلوریدا رسیده بود. دیوید آدلرستاین، ناشر روزنامه، مقاله را از طریق سازمان پیس‌وویس دریافت کرده بود؛ نهادی که سال‌ها مطالبی در اختیار این روزنامه قرار می‌داد. او مقاله را سنجیده و مناسب مخاطبانش دانسته بود. رابطه دیرینه با این واسطه باعث شد هویت نویسنده ادعایی را مستقلاً بررسی نکند. پیس‌وویس اعلام کرد از فریب‌کاری بی‌خبر بوده و پس از آن، مقررات خود را درباره مطالب تولیدشده با هوش مصنوعی سخت‌گیرانه‌تر کرده است.
نشریات دیگری نیز در واکنش، مطالب را حذف کردند یا رویه‌های خود را مورد بازبینی قرار دادند. دیلی کاس یادآوری کرد که مطالب مورد بحث در بخش مشارکت کاربران منتشر شده بودند؛ فضایی که افراد می‌توانند در آن بدون گذراندن همان سطح از بررسی تحریریه‌ای اولیه که درباره نویسندگان ثابت اعمال می‌شود، مطلب منتشر کنند.
این تفاوت‌ها مهم‌اند. یک وب‌سایت مبتنی بر مشارکت کاربران با روزنامه‌ای که مقاله‌ها را از یک واسطه مورد اعتماد دریافت می‌کند، سازوکار یکسانی ندارد. هیچ‌یک از این شرایط به‌خودی‌خود ثابت نمی‌کند که سردبیران آگاهانه در کارزار مشارکت داشته‌اند. در واقع، موفقیت طرح به بی‌اطلاعی آن‌ها وابسته بود.
اوپن‌ای‌آی نزدیک به ۱۰۰ مقاله را شناسایی کرد که با نام این هفت نفر در بیش از دوازده نشریه منتشر یا بازنشر شده بودند. برخی از این مطالب بعداً از سوی خود نشریات در شبکه‌های اجتماعی تبلیغ شدند و به این ترتیب، عاملان عملیات توانستند به مخاطبانی فراتر از دنبال‌کنندگان حساب‌های خود دسترسی پیدا کنند.
اعتبار ظاهری مطالب در مسیر انتشار میان این نشریات تغییر می‌کرد. آنچه در ابتدا مطلبی با انگیزه سیاسی و نامی جعلی بود، پس از انتشار به مقاله‌ای تبدیل می‌شد که اعتبار یک رسانه باسابقه را با خود حمل می‌کرد.
اوپن‌ای‌آی ارزیابی کرد که این فعالیت‌ها با یک عملیات نفوذ تجاری و سفارشی سازگار بوده‌اند. این شرکت توانست حساب‌های مرتبط با چت‌جی‌پی‌تی را به ایران مرتبط کند، اما نتوانست سازمان مسئول را شناسایی کند. اینکه منشأ عملیات ایران بوده یا دولت ایران آن را هدایت کرده است، همچنان روشن نیست. محتوای سیاسی مقاله‌ها به‌تنهایی مشخص نمی‌کند چه کسی سفارش‌دهنده آن‌ها بوده است.
مخاطبانی که ساختن آن‌ها دشوارتر بود
در این عملیات از چت‌جی‌پی‌تی برای تولید شمار زیادی نظر در شبکه‌های اجتماعی نیز استفاده شد که بیشتر درباره منازعه ایران و آمریکا بودند. عاملان، پست‌ها یا تصویر صفحه‌ها را در اختیار سامانه قرار می‌دادند و از آن پاسخ‌هایی به انگلیسی یا فارسی می‌خواستند. هدف آن‌ها تولید نظرهایی بود که آمریکا را آغازگر تجاوز نشان دهد، از اسرائیل انتقاد کند و سیاست نظامی آمریکا را به چالش بکشد. بیش از دو دوجین مجموعه از پاسخ‌های تند فارسی نیز حساب‌های ایران اینترنشنال، شبکه مستقر در لندن و منتقد حکومت ایران، را هدف قرار دادند.
برخی نظرها با هدف حمایت از مقاله‌های خود این عملیات تولید می‌شدند. عاملان، تصویر پست‌هایی را که مقاله‌هایشان را تبلیغ می‌کردند به چت‌جی‌پی‌تی می‌دادند و پاسخ‌های مثبت می‌خواستند؛ ظاهراً امیدوار بودند این کار تصویری از حمایت مستقل افکار عمومی ایجاد کند.
نتیجه این تلاش‌ها در مقایسه با کارزار انتشار مقاله‌ها چندان چشمگیر نبود. اوپن‌ای‌آی دریافت که نظرهای قابل‌شناسایی عموماً تعامل واقعی اندکی جذب می‌کردند. برخی از آن‌ها عمدتاً از حساب‌های مرتبط با خود عملیات تأیید می‌گرفتند. بااین‌حال، عاملان در گزارش‌های داخلی خود از موفقیت قابل‌توجهی سخن می‌گفتند. آن‌ها گاهی تعداد بازدیدهای یک پست را پیش و پس از انتشار پاسخ‌هایشان مقایسه می‌کردند و اختلاف را نشانه تأثیرگذاری می‌دانستند. اما چنین محاسبه‌ای نه ثابت می‌کرد کسی نظرها را دیده است و نه نشان می‌داد که این نظرها کسی را متقاعد کرده‌اند.
اوپن‌ای‌آی برای تفکیک نتایج از مقیاس شش‌سطحی «میزان گسترش عملیات نفوذ» استفاده کرد. فعالیت مربوط به ثبت نظرها در رده دوم قرار گرفت، در حالی که کارزار انتشار مقاله‌ها به رده چهارم رسید. علت این تفاوت آن نبود که ثابت شده باشد مقاله‌های منتشرشده افکار عمومی را تغییر داده‌اند؛ بلکه این مطالب توانسته بودند وارد نشریات مستقلی شوند که ظرفیت بالقوه قابل‌توجهی برای دسترسی به مخاطبان داشتند. یکی از رسانه‌هایی که این مطالب را منتشر کرد، در اوت ۲۰۲۶ نزدیک به دو میلیون دنبال‌کننده در فیس‌بوک، حدود ۳۵۵ هزار دنبال‌کننده در ایکس و بیش از ۵۴۴ هزار دنبال‌کننده در اینستاگرام داشت.
این ارقام مشخص نمی‌کنند چند نفر یک مقاله معین را خوانده‌اند. اما نشان می‌دهند نویسنده‌ای ساختگی پس از پذیرفته شدن از سوی یک ناشر، بالقوه به چه شبکه توزیعی دسترسی پیدا می‌کند. عاملان چیزی باارزش‌تر از مجموعه‌ای از پسندهای مصنوعی به دست آورده بودند: یک رسانه معتبر حاضر شده بود مطالب آن‌ها را منتشر کند.
ارتباط روسیه: نویسندگان واقعی و کارفرمایان پنهان
دومین عملیات نفوذی که در گزارش اکتبر اوپن‌ای‌آی افشا شد، روش متفاوتی داشت. عاملان آن در روسیه مستقر بودند و بخش بزرگی از فعالیتشان آمریکای لاتین را هدف قرار می‌داد. از جمله اهداف ظاهری این کارزار، تخریب وجهه اوکراین و اثرگذاری بر بحث‌های سیاسی در کشورهایی مانند آرژانتین و بولیوی بود.
اوپن‌ای‌آی نام «دارک کلارک» (Dark Clark) را برای این کارزار برگزید؛ نامی برگرفته از میا کلارک، هویتی جعلی که برای اداره سازمان پژوهشی ادعایی موسوم به مرکز پژوهش‌های اجتماعی (SRC) استفاده می‌شد. این مرکز خود را بستری برای پرداختن به جامعه هندی‌تباران آمریکای لاتین و روابط هند با کشورهای این منطقه معرفی می‌کرد.
برخلاف کارزار ایران که بر نویسندگان ساختگی متکی بود، بسیاری از افرادی که در این عملیات پژوهش می‌کردند واقعی بودند. اسناد داخلی بررسی‌شده از سوی اوپن‌ای‌آی به حقوق، نیروی انسانی، انتصاب‌ها و اخراج‌ها اشاره داشتند؛ مواردی که نشان می‌داد عاملان روسی بر مرکز پژوهش‌های اجتماعی کنترل داشتند، نه اینکه صرفاً با آن همکاری می‌کردند. محققان اوپن‌ای‌آی ارزیابی کردند که کارکنان این مرکز در آمریکای لاتین نمی‌دانستند برای عملیاتی تحت کنترل روسیه کار می‌کنند.
کار این مرکز لزوماً ساختگی نبود. مرکز پژوهش‌های اجتماعی بیش از ۶۰ مقاله منتشر کرد که بیشتر آن‌ها ظاهراً مطالبی اصیل بودند. پژوهشگران با متخصصان مصاحبه می‌کردند، مسائل اقتصادی و سیاسی را بررسی می‌کردند و مطالبی با محتوای جدی تولید می‌کردند.
این وضعیت، مرز متعارف میان روزنامه‌نگاری واقعی و تبلیغات ساختگی را پیچیده می‌کند. گزارشی ممکن است بر مصاحبه‌های واقعی تکیه داشته باشد و پژوهشگری واقعی آن را بنویسد، بی‌آنکه از مدیریت پنهان سازمانی که سفارش‌دهنده کار است خبر داشته باشد. فریب‌کاری در لایه‌ای پیشین رخ می‌دهد؛ جایی که نهادی اولویت‌ها را تعیین می‌کند و بر کار نظارت دارد.
عاملان روسی همچنین از چت‌جی‌پی‌تی برای تهیه گزارش‌های داخلی مفصل درباره فعالیت‌های خود استفاده می‌کردند. در این گزارش‌ها، تلاش‌هایی برای انتشار روایت‌های نادرست درباره اوکراین و مداخله در مناقشه‌های سیاسی منطقه شرح داده شده بود.
برخی از ادعاها با رویدادهایی که علناً مستند شده بودند، مطابقت داشتند. در پرو، این عملیات از تلاش برای برانگیختن جنجال درباره استپان باندرا، ملی‌گرای اوکراینی قرن بیستم، خبر داد؛ تلاشی که در آن از یک مکاتبه جعلی برای تشویق مدارس به برگزاری برنامه‌هایی مرتبط با او استفاده شده بود. جنجال حاصل به پوشش رسانه‌ای انجامید و به بحث‌هایی درباره اوکراین و لهستان دامن زد. مطالب دیگری شامل ادعاهای ساختگی درباره جذب نیرو برای ارتش اوکراین در اکوادور و تلاش‌هایی برای انتشار اطلاعات گمراه‌کننده در بولیوی بود.
بااین‌حال، همه موفقیت‌هایی که در گزارش‌های داخلی ادعا شده بود، قابل تأیید نبودند. اوپن‌ای‌آی مواردی را یافت که در آن‌ها عاملان ظاهراً اعتبار رویدادهای نامرتبط یا مواضع سیاسی از پیش موجود را به خود نسبت داده بودند. بنابراین، اسناد دو نوع فریب‌کاری را آشکار کردند: تلاش برای دست‌کاری اطلاعات عمومی و تلاش برای بزرگ‌نمایی موفقیت کارزار نزد افرادی که بر آن نظارت داشتند.
اوپن‌ای‌آی به دارک کلارک در مقیاس خود رتبه پنجم را داد؛ بالاترین رتبه‌ای که این شرکت تا آن زمان به عملیاتی مختل‌شده اختصاص داده بود. این ارزیابی بر شواهدی استوار بود که نشان می‌داد برخی مطالب آن‌قدر وارد بحث عمومی شده‌اند که واکنش‌هایی مانند راستی‌آزمایی، تکذیب رسمی یا پاسخ سیاسی را برانگیخته‌اند.
پرونده روسیه نشان می‌دهد که داشتن نام نویسنده‌ای واقعی لزوماً منشأ یک مطلب را روشن نمی‌کند. ممکن است روزنامه‌نگاری واقعاً مقاله‌ای نوشته باشد، اما نداند چه منافعی بر سازمان سفارش‌دهنده آن کنترل دارند.
صدای عاریتی یک فعال
اوپن‌ای‌آی با روزنامه‌نگاران خیالی روبه‌رو شد، اما آنتروپیک نمونه‌ای از تقلید هویت یک فعال سیاسی واقعی را شناسایی کرد.
یک عامل، حدود ۸۴۰۰ پست تلگرامی نوشته‌شده به دست یک فعال ایرانی را در اختیار کلود گذاشت و به یک عامل هوش مصنوعی دستور داد هویت و سبک نگارش آن فرد را به خود بگیرد. سپس از حساب حاصل برای گفت‌وگوهای زنده با افرادی استفاده شد که ظاهراً تصور می‌کردند مستقیماً با خود آن فعال صحبت می‌کنند.
هدف عامل صرفاً این نبود که از مدل بخواهد متنی متقاعدکننده بنویسد؛ بلکه می‌خواست سخنان فردی دیگر به نام شخصی مشخص و شناخته‌شده منتشر شود.
این عملیات اطلاعاتی درباره افراد داخل ایران نیز گردآوری کرد. طبق گزارش اطلاعات تهدید آنتروپیک که در سپتامبر منتشر شد، بیش از ۵۰۰ کانال شبکه‌های اجتماعی استخراج و حدود ۵۱٬۹۴۴ پیام آرشیوشده تحلیل شدند. از این اطلاعات برای تهیه پرونده‌هایی استفاده شد که افراد را بر اساس شهر، سن، شغل، گرایش سیاسی و سابقه بازداشت دسته‌بندی می‌کردند. برخی دیگر از مشارکت‌کنندگان هویت‌هایی در شبکه‌های اجتماعی ایجاد می‌کردند، تصویرهای نمایه می‌ساختند و با فهرست‌های منابع تأییدشده، رویه‌های بازبینی و حافظه پایدار عامل‌های هوش مصنوعی کار می‌کردند.
آنتروپیک برخی از مشارکت‌کنندگان را به سازمان مجاهدین خلق ایران و شورای ملی مقاومت ایران مرتبط دانست؛ دو تشکلی که با جمهوری اسلامی مخالف‌اند. طبق این گزارش، دست‌کم چهار نفر از افراد دخیل در عملیات برای رسانه‌های رسمی شورای ملی مقاومت کار می‌کردند.
اشاره‌ها به رهبری و سازوکارهای تأیید باعث شد آنتروپیک احتمال دهد که فعالیت‌ها از مرکز هدایت می‌شده‌اند. بااین‌حال، این شرکت زیرساخت حساب‌های مشترک یا شواهد آشکار هماهنگی میان تمام بازیگران را پیدا نکرد. ازاین‌رو، نتوانست میزان کنترل متمرکز بر عملیات را مشخص کند.
سازمان مجاهدین خلق و شورای ملی مقاومت هرگونه دخالت سازمانی را رد کردند. مجاهدین خلق در بیانیه‌ای که ۱۴ سپتامبر منتشر شد، اعلام کرد هیچ‌یک از این دو سازمان از فعالیت‌های توصیف‌شده اطلاع نداشته‌اند یا با آن‌ها ارتباطی نداشته‌اند. این سازمان از آنتروپیک انتقاد کرد که پیش از انتشار گزارش نظر آن‌ها را جویا نشده است و گفت مسئولیت هرگونه تخلف احتمالی اعضا یا هواداران بر عهده خود آن افراد است. این سازمان همچنین اعلام کرد که بررسی‌هایش به شناسایی یک حساب هوش مصنوعی متعلق به یکی از هواداران انجامیده که اخیراً بسته شده بود و به گفته این سازمان، مواضعی را منتشر می‌کرد که پیش‌تر علناً اعلام شده بودند.
میان شواهد مربوط به دخالت افراد و این نتیجه‌گیری که رهبری شورای ملی مقاومت عملیات را تأیید کرده است، تفاوت مهمی وجود دارد. روابط شغلی و نشانه‌های وجود سازوکارهای تأیید اهمیت دارند، اما بدون شواهد بیشتر نمی‌توانند مشخص کنند چه کسی هر فعالیت را هدایت کرده است.
بااین‌حال، جعل هویت گزارش‌شده دشواری تازه‌ای را در احراز اصالت ارتباطات سیاسی نشان می‌دهد. سبک نگارش فردی که زمانی به‌اندازه کافی متمایز بود تا دیگران او را از روی نوشته‌هایش بشناسند، اکنون می‌تواند بر اساس نوشته‌های عمومی او بازتولید شود. عبارت‌های آشنا و استدلال‌های معمول یک فرد ممکن است اعتماد مخاطبی را جلب کنند که راهی برای فهمیدن اینکه پیام واقعاً از سوی نویسنده ادعایی تولید شده است، ندارد.
اطلاعات از کجا آمده است؟
برخی عملیات دیگری که آنتروپیک بررسی کرد، به نهادهای همسو با جمهوری اسلامی مربوط می‌شدند، نه مخالفان آن. این شرکت حساب‌هایی را شناسایی کرد که به افرادی مرتبط بودند که در سازمان فرهنگ و ارتباطات اسلامی، دفتر تبلیغات اسلامی خراسان رضوی و رصدخانه فرهنگی بینا، وابسته به سازمان تبلیغات اسلامی، فعالیت می‌کردند یا از طرف آن‌ها کار می‌کردند.
عاملان برای توصیف فعالیت‌های خود از مفاهیمی مانند جنگ نرم، جنگ شناختی و «جهاد تبیین» استفاده می‌کردند. آن‌ها از کلود برای تدوین برنامه‌های کارزار، طراحی هویت‌های آنلاین و سازمان‌دهی اطلاعات درباره مخاطبان هدف بهره می‌گرفتند. یکی از این طرح‌ها با نام منجنیق، ده‌ها فعال را در چند استان ایران درگیر کرده بود.
به گفته آنتروپیک، مطالبی که منشأ آن‌ها نهادهای امنیتی ایران بود، برای انتشار از طریق هویت‌های مختلف آنلاین بازنویسی و تطبیق داده می‌شدند. پیش از انتشار در بسترهای ایرانی و بین‌المللی، منشأ سازمانی این مطالب حذف می‌شد و بیش از ۱۰۰ کانال به تقویت و گسترش آن‌ها کمک می‌کردند.
آنتروپیک این روش را «پالایش منشأ انتساب» (attribution laundering) نامید. این اصطلاح مفید است، زیرا نوعی فریب‌کاری را توصیف می‌کند که لزوماً به تغییر محتوای یک ادعا نیاز ندارد؛ بلکه گوینده ظاهری آن تغییر می‌کند. اطلاعاتی که در یک نهاد دولتی تولید شده است، ممکن است دوباره به‌عنوان کار یک مفسر مستقل منتشر شود. توزیع سازمان‌یافته نیز می‌تواند شبیه گفت‌وگوی خودجوش مردم به نظر برسد.
آنتروپیک در رصدخانه فرهنگی بینا عاملی را شناسایی کرد که مطالبی را با صدای سخنگوی سپاه پاسداران انقلاب اسلامی تولید می‌کرد. در جریان منازعه سال ۲۰۲۶، همین عملیات ادعاهایی را به‌دروغ به سازمان‌های غربی، از جمله مرکز مطالعات راهبردی و بین‌المللی، مؤسسه بروکینگز و مؤسسه رند، نسبت داد. الصاق نام یک سازمان پژوهشی شناخته‌شده به یک اظهارنظر می‌تواند اعتباری به آن ببخشد که منبع اصلی در اختیار نداشته است. خواننده‌ای که با نسخه نهایی روبه‌رو می‌شود، ممکن است نشانه چندانی از جعلی بودن این انتساب نبیند.
عملیات مرتبط با افراد وابسته به شورای ملی مقاومت و عملیات مرتبط با نهادهای جمهوری اسلامی در خدمت منافع سیاسی متضاد بودند و نباید با یکدیگر خلط شوند. بااین‌حال، هر دو نشان می‌دهند که هوش مصنوعی چگونه می‌تواند برای عاریت گرفتن صدای یک فرد یا اعتبار یک نهاد به کار رود. در هر دو مورد، هویتی که در کنار اطلاعات ارائه می‌شود، بخشی از فریب‌کاری است.
از نام مستعار تا هویت واقعی
آنتروپیک فعالیت‌هایی را نیز مستند کرد که هدف متفاوتی داشتند: شناسایی هویت واقعی افرادی که پشت حساب‌های آنلاین فعالیت می‌کنند.
این شرکت ۱۶ حساب کلود را به دو واحد مرتبط با یکدیگر نسبت داد که با اطمینان بالا ارزیابی کرد به نهادهای شبه‌نظامی فعال در حوزه امنیت داخلی ایران مرتبط‌اند. گزارش، نام یک سازمان اطلاعاتی مشخص را به‌عنوان نهاد مادر این واحدها اعلام نکرد.
یکی از واحدها که در چند استان فعالیت می‌کرد، مدعی شده بود طی یک سال مشخصات ۶۳۸۸ ایرانی را گردآوری کرده است. تحلیلگران آن با شبکه‌ای شامل بیش از ۱۵۵ هزار توییت کار می‌کردند. واحد دیگری که در قم مستقر بود، از کلود برای توسعه ابزارهای نظارتی بهره می‌گرفت. هر دو واحد اطلاعاتی را به سامانه‌ای به نام آرمان منتقل می‌کردند؛ سامانه‌ای که در آن ممکن بود شماره‌های ملی، حساب‌های شبکه‌های اجتماعی، داده‌های تلفنی، باورهای سیاسی و مذهبی و سوابق کیفری افراد با یکدیگر ترکیب شوند.
آنتروپیک همچنین از تطبیق شماره‌های تلفن با هویت افراد، جمع‌آوری شناسه‌های آنلاین، تلاش برای فریب افراد با هدف به‌دست‌آوردن شماره ملی و گزارش‌دهی انبوه علیه حساب‌های تلگرامی خبر داد. در یکی از تحلیل‌ها، ۳۹ حساب متعلق به مخالفان حکومت و ایرانیان خارج از کشور برای نظارت هدف‌گذاری شده بودند.
برای فعالی که با نام مستعار کار می‌کند، خطر تنها این نیست که سامانه‌ای نوشته‌هایش را تقلید کند. تکه‌های اطلاعات پراکنده در پلتفرم‌های مختلف ممکن است با یکدیگر ترکیب شوند و هویت واقعی او را آشکار کنند. پیامدهای این کار می‌تواند از فضای اینترنت فراتر برود.
در سپتامبر، نهادهای امنیتی بریتانیا، آمریکا و هلند درباره بدافزاری به نام «چوزن بریک» هشدار دادند و گفتند از دست‌کم سال ۲۰۲۵ از آن علیه مخالفان، فعالان و روزنامه‌نگاران استفاده شده است. مهاجمان می‌توانستند از طریق برنامه‌های پیام‌رسان یا با جا زدن خود به‌جای آشنایان قربانی یا کارکنان پشتیبانی فنی به اهداف نزدیک شوند. این بدافزار قادر بود پیام‌ها و دیگر اطلاعات شخصی را جمع‌آوری کند؛ اطلاعاتی که ممکن بود محل زندگی و رفت‌وآمدهای روزانه فرد را آشکار سازند.
چوزن بریک بخشی از فعالیت‌های شناسایی‌شده در تحقیق آنتروپیک نبود و هیچ ساختار فرماندهی مشترکی میان آن‌ها اثبات نشده است.
عملیات دیگری مستقیماً به یک نهاد اطلاعاتی ایران نسبت داده شد. وزارت دادگستری آمریکا در ۱۹ مارس ۲۰۲۶ اعلام کرد چهار دامنه را توقیف کرده است که بنا بر ادعای این وزارتخانه، وزارت اطلاعات و امنیت ایران برای هک، ارعاب و عملیات روانی از آن‌ها استفاده می‌کرد. این دامنه‌ها زیرساخت‌هایی را شامل می‌شدند که با هویت «هندالا هک» معرفی شده بودند. مقام‌های آمریکایی مدعی شدند این هویت برای پذیرفتن مسئولیت حملات سایبری، انتشار اطلاعات شخصی سرقت‌شده و تهدید روزنامه‌نگاران و مخالفان دولت ایران به کار رفته است.
این پرونده‌ها از نظر روش اجرا و انتساب مسئولیت با یکدیگر تفاوت دارند. بااین‌حال، در مجموع نشان می‌دهند که دست‌کاری هویت آنلاین هم می‌تواند شامل پنهان کردن هویت عامل باشد و هم آشکار کردن هویت هدف.
مسئله‌ای قدیمی در پس فناوری جدید
هیچ‌یک از این روش‌ها با ظهور هوش مصنوعی مولد آغاز نشده‌اند. دولت‌ها، جنبش‌های سیاسی و سازمان‌های اطلاعاتی مدت‌هاست از واسطه‌ها، نام‌های مستعار و نهادهایی که ظاهراً مستقل‌اند استفاده می‌کنند تا پیام‌های خود را گسترده‌تر منتشر کنند یا به آن‌ها اعتبار بیشتری ببخشند.
ابتکار کارشناسان ایران نمونه‌ای بحث‌برانگیز از دوره‌ای پیشین است. در سال ۲۰۲۳، رسانه‌های سمفور و ایران اینترنشنال درباره مکاتبات مقام‌های وزارت امور خارجه ایران با پژوهشگرانی وابسته به نهادهایی در اروپا و آمریکا، در دوران مذاکرات هسته‌ای، گزارش دادند. این مکاتبات تلاش مقام‌های ایرانی برای حفظ ارتباط با دانشگاهیان و پیگیری مقاله‌ها و حضور رسانه‌ای آن‌ها را توصیف می‌کرد.
گروه بین‌المللی بحران، که کارکنانش در اسناد مورد اشاره حضور داشتند، این توصیف را که ابتکار یادشده یک عملیات نفوذ تحت هدایت وزارت امور خارجه بوده است، رد کرد. این سازمان شبکه را محفلی غیررسمی برای تبادل نظر میان پژوهشگران و مقام‌های ایرانی توصیف کرد و تأکید داشت که هیچ دولتی نمی‌تواند مواضع تحلیلگران آن را دیکته کند.
یکی از مکاتباتی که سمفور گزارش کرد، پس از نشستی در وین در ماه مه ۲۰۱۴ انجام شده بود. فردی مستقر در آلمان که در این ابتکار مشارکت داشت، پیشنهاد کرده بود اعضا مقاله‌ای درباره مذاکرات هسته‌ای بنویسند که پس از بررسی از سوی محمدجواد ظریف، وزیر امور خارجه وقت، و تیم او، به نام یک مقام پیشین منتشر شود. ظریف با این پیشنهاد موافقت نشان داده و پیشنهاد کرده بود یادداشت‌هایی به نام افراد داخل و خارج از ایران منتشر شوند.
فردی که این پیشنهاد را مطرح کرده بود، بعداً به گزارش‌ها اعتراض کرد و اصالت مکاتبات منتسب به خود را زیر سؤال برد. سمفور گزارش داد که بررسی کارشناسی دیجیتال سفارش‌داده‌شده از سوی ایران اینترنشنال، هیچ مغایرت فراداده‌ای را که نشان دهد ایمیل‌ها جعلی بوده‌اند، پیدا نکرده است.
اهمیت این مکاتبه در آن است که موضوعش جداسازی نویسندگی از نامی بود که قرار بود یک استدلال با آن منتشر شود. بااین‌حال، این مکاتبات مشخص نمی‌کنند که چند مقاله، یا اساساً مقاله‌ای، از طریق سازوکار پیشنهادی منتشر شده است. همچنین، ارتباط با مقام‌های ایرانی ثابت نمی‌کند که تمام پژوهشگران مشارکت‌کننده تحت هدایت آن‌ها عمل کرده‌اند. دانشگاهیان ممکن است مستقلاً از دیپلماسی حمایت کنند، با تحریم‌ها مخالف باشند یا از سیاست‌های غرب انتقاد کنند. هم‌سویی با موضع یک دولت، به‌خودی‌خود دلیلی بر وجود رابطه‌ای پنهان نیست.
همین احتیاط درباره کارشناسان خارجی که در رسانه‌های ایرانی ظاهر می‌شوند نیز لازم است. ممکن است یک مصاحبه دقیق باشد، به‌صورت گزینشی ویرایش شود، در ترجمه تأکیدی متفاوت پیدا کند یا با تیتر گمراه‌کننده‌ای بازنشر شود. شرایط انتشار اهمیت بیشتری از این دارد که دیدگاه‌های گوینده اتفاقاً با مواضع آن رسانه هم‌خوانی داشته باشد یا نه.
این مسئله پیش از ظهور مدل‌های زبانی نیز یکی از چالش‌های تحقیقات روزنامه‌نگاری بود. هوش مصنوعی بازتولید برخی روش‌ها را آسان‌تر و تشخیص آن‌ها را دشوارتر کرده است، اما معیارهای اثبات ادعاها را تغییر نداده است.
شواهد چه چیزی را روشن می‌کنند؟
اوپن‌ای‌آی و آنتروپیک در این تحقیقات جایگاهی غیرمعمول دارند. برخلاف روزنامه‌نگارانی که یک عملیات را از روی وب‌سایت‌ها، پست‌های شبکه‌های اجتماعی و اسناد عمومی بازسازی می‌کنند، این شرکت‌ها می‌توانند نحوه استفاده از سامانه‌های خود را بررسی کنند. آن‌ها ممکن است به دستورهایی که به مدل داده شده، مطالبی که برای تحلیل در اختیار آن قرار گرفته، چگونگی ساخت یک هویت مصنوعی یا روند بازنویسی مقاله پیش از ارسال برای انتشار دسترسی داشته باشند.
در پرونده اوپن‌ای‌آی، همین دسترسی به محققان امکان داد کار روی مقاله‌هایی با هویت‌های جعلی را به مطالبی پیوند دهند که واقعاً در نشریات منتشر شده بودند. در پرونده جعل هویت فعال ایرانی که آنتروپیک بررسی کرد، دستور صریح برای تقلید از سبک نوشتاری یک فرد، شواهدی درباره قصد عامل فراهم می‌کرد که صرفاً از شباهت‌های زبانی نمی‌شد با اطمینان به آن دست یافت.
بااین‌حال، این دیدگاه همچنان ناقص است. هیچ‌یک از این شرکت‌ها لزوماً نمی‌داند بیرون از سامانه‌هایش چه اتفاقی افتاده، چه کسی در نهایت هزینه عملیات را پرداخته یا مخاطبان چگونه واکنش نشان داده‌اند. تحقیق اوپن‌ای‌آی درباره عملیات ایرانی این محدودیت را آشکار می‌کند. کارزار ثبت نظرها محتوای زیادی تولید کرد، اما تعامل قابل مشاهده اندکی داشت. روزنامه‌نگاران جعلی در انتشار مقاله‌ها موفق‌تر بودند، هرچند این موفقیت چیزی قطعی درباره تأثیر آن‌ها بر دیدگاه مخاطبان ثابت نمی‌کند.
یافته‌های اوپن‌ای‌آی درباره دارک کلارک نیز نشان می‌دهد چرا اسناد داخلی به بررسی مستقل نیاز دارند. عاملانی که به مافوق خود گزارش می‌دهند ممکن است دستاوردهایشان را بزرگ‌نمایی کنند یا مسئولیت رویدادهایی را بر عهده بگیرند که خود موجب آن‌ها نبوده‌اند. شواهد مربوط به تولید، توزیع و اثرگذاری به پرسش‌های متفاوتی پاسخ می‌دهند؛ همان‌طور که شواهد ارتباط عاملان منفرد با سازمان‌ها نیز موضوع مستقلی را روشن می‌کنند.
اوپن‌ای‌آی توانست حساب‌های عملیات امضاهای جعلی را به ایران مرتبط کند، اما نتوانست حامی آن را شناسایی کند. آنتروپیک در فعالیت‌های مرتبط با افراد وابسته به شورای ملی مقاومت، روابط شغلی و نشانه‌هایی از وجود سازوکارهای تأیید را یافت، اما پذیرفت که هدایت متمرکز همچنان نامشخص است. سازمان مجاهدین خلق و شورای ملی مقاومت نیز مسئولیت سازمانی را رد کردند.
در پرونده‌های مرتبط با نهادهای همسو با دولت ایران نیز باید با همین دقت عمل کرد. بررسی نحوه استفاده از یک حساب می‌تواند نشان دهد گرداننده آن چه تلاشی کرده است، اما زنجیره فرماندهی ممکن است فراتر از شواهد موجود امتداد داشته باشد. تصویر مستند زمانی قوی‌تر می‌شود که محققان بتوانند دستورهای مستقیم، تأیید تحریریه‌ای، روابط مالی، زیرساخت فنی مشترک یا انتقال مطالب از یک بازیگر به بازیگر دیگر پیش از انتشار را ثبت کنند. صرف اینکه چند نفر استدلال‌های مشابهی مطرح کنند، شواهد بسیار ضعیف‌تری است. همین‌طور، این مشاهده که مقاله‌ای در خدمت منافع یک دولت خاص قرار دارد، به‌تنهایی چیزی را ثابت نمی‌کند. به‌ویژه در بحث‌های سیاسی دوقطبی، اشتباه گرفتن هم‌سویی با هماهنگی می‌تواند به اتهام‌هایی ناعادلانه و دشوار برای رد کردن منجر شود.
ردگیری مسیر اطلاعات
پرونده امضاهای جعلی پرسشی ناخوشایند را پیش روی سردبیران قرار می‌دهد: برای اطمینان از وجود واقعی یک نویسنده چه چیزی لازم است؟ ممکن است زندگی‌نامه حرفه‌ای او ساختگی باشد و حساب‌های شبکه‌های اجتماعی نیز بر اساس همان هویت ساخته شده باشند. حتی ممکن است مقاله‌های قبلی ظاهراً هویت نویسنده را تأیید کنند، در حالی که انتشار آن‌ها نیز نتیجه همان فریب‌کاری بوده است. تجربه روزنامه فلوریدا نشان می‌دهد که حتی یک واسطه مورد اعتماد هم ممکن است ناخواسته چنین مطالبی را وارد تحریریه کند.
نام جعلی نویسنده با استفاده مشروع از ابزار هوش مصنوعی برای نگارش تفاوت دارد. نویسندگان به‌طور معمول از نرم‌افزارهای ویرایش، خدمات ترجمه و ابزارهای دیگری برای بهبود نثر خود استفاده می‌کنند. مسئله اصلی این است که آیا هویت فرد یا نهادی که مسئول تولید مطلب است، به‌درستی معرفی شده یا درباره آن اطلاعات نادرست ارائه شده است.
همچنین، هر نویسنده ناشناسی مشکوک نیست. ناشناس ماندن ممکن است برای روزنامه‌نگاران، مخالفان سیاسی و منابعی که با تهدید روبه‌رو هستند، ضروری باشد. هدف این نیست که در همه موارد هویت عمومی افراد مطالبه شود، بلکه باید ادعاهای مربوط به نویسندگی و منشأ مطلب که انتشار آن به آن‌ها وابسته است، بررسی شوند.
یک تحقیق مفید با ردیابی اطلاعات تا نخستین محل انتشار قابل‌شناسایی آن آغاز می‌شود. یک ادعا نخستین بار کجا مطرح شده است؟ چه کسی آن را ارائه کرده؟ آیا نام نهادی که پشت آن قرار دارد مشخص بوده است؟ آیا هنگام انتقال میان زبان‌ها یا پلتفرم‌ها، متن تغییر کرده است؟ آیا قیدی از متن حذف شده یا نقل‌قولی از زمینه اصلی خود جدا شده است؟ آیا مطلبی که به‌عنوان تحلیل مستقل عرضه می‌شود، پیش از انتشار در یک سند سازمانی وجود داشته است؟
سابقه انتشار می‌تواند نشان دهد که یک ادعا چگونه اعتبار تازه‌ای پیدا می‌کند. اظهارنظری که در یک نهاد دولتی تولید شده است، ممکن است از طریق مفسری ظاهراً مستقل منتشر شود، در رسانه‌ای دیگر مورد استناد قرار گیرد و سپس به محیط رسانه‌ای اولیه بازگردد؛ این بار به‌عنوان شاهدی بر توافق خارجی با آن موضع. اگر این توالی مستند شود، می‌تواند اهمیت داشته باشد. اما گرایش سیاسی مفسر ظاهری، به‌تنهایی، چنین روندی را ثابت نمی‌کند.
پرونده مرکز پژوهش‌های اجتماعی روسیه پیچیدگی دیگری را نیز آشکار می‌کند: حتی وقتی نویسنده و پژوهش واقعی‌اند، سازمان سفارش‌دهنده ممکن است منافع خود را پنهان کرده باشد. بنابراین، شناسایی نویسنده تنها بخشی از فرایند مشخص کردن منشأ یک مطلب است. چالش اصلی، بازسازی سابقه‌ای است که در نسخه نهایی مقاله پنهان مانده است.
نام نویسنده به‌مثابه مدرک
تحقیق اکتبر اوپن‌ای‌آی اهمیت دارد، زیرا روزنامه‌نگاران ساختگی صرفاً در حساب‌های ناشناخته یا پیش‌نویس‌های منتشرنشده باقی نماندند. مطالب آن‌ها در نشریات واقعی منتشر شد، نام نویسنده‌ای معمولی داشت و گاهی از شبکه‌های توزیع رسانه‌های باسابقه بهره برد.
تحقیق آنتروپیک روش‌های دیگری را نیز نشان می‌دهد که در آن‌ها هویت ظاهری یک پیام دست‌کاری می‌شود: تقلید از صدای یک فعال، پنهان کردن نقش یک نهاد دولتی، نسبت دادن جعلی یک اظهارنظر به سازمان پژوهشی غربی یا کشف هویت فردی ناشناس از طریق ترکیب اطلاعات شخصی.
این عملیات‌ها معادل یکدیگر نیستند و شواهد هر پرونده نیز از نتیجه‌گیری‌های متفاوتی پشتیبانی می‌کند. بااین‌حال، پرونده اوپن‌ای‌آی این مسئله را مستقیماً به فضای تحریریه‌ها می‌آورد. سردبیران همیشه ناچار بوده‌اند تصمیم بگیرند که آیا استدلال‌های یک نویسنده دقیق، اصیل و شایسته انتشار هستند یا نه. اکنون ممکن است لازم باشد بررسی کنند که آیا نویسنده، سابقه حرفه‌ای او و نهادی که پشت مطلب قرار دارد، واقعاً همان چیزی هستند که به نظر می‌رسند.
تشخیص نثر مصنوعی به‌تنهایی پاسخی برای این پرسش‌ها فراهم نمی‌کند. یک نویسنده ساختگی می‌تواند مقاله‌ای متقاعدکننده بنویسد. پژوهشگری واقعی ممکن است برای سازمانی پنهان کار کند. پیامی که با صدای آشنای فردی نوشته شده، ممکن است در واقع محصول کار شخص دیگری باشد. آنچه اهمیت دارد، شواهدی است که کلمات منتشرشده را به افراد و نهادهای مسئول آن‌ها پیوند می‌دهد.
هوش مصنوعی مولد تولید محتوای سیاسی، تقلید از افراد و ساخت هویت‌های باورپذیر بر پایه ادعاهای جعلی درباره نویسندگی را آسان‌تر کرده است. روش‌های تعیین مسئولیت اکنون باید با این واقعیت کنار بیایند.
نامی که بالای یک مقاله درج می‌شود، صرفاً یک اسم نیست؛ ادعایی درباره منشأ کلمات است. تحقیق درباره عملیات امضاهای جعلی نشان می‌دهد که این ادعا نیز باید مستقلاً مورد بررسی قرار گیرد.