اوپن‌ای‌آی عملیات انتشار اخبار جعلی روسیه و ایران را شناسایی کرد
اوپن‌ای‌آی عملیات‌های نفوذ اطلاعاتی با منشأ روسی و ایرانی را که از ChatGPT برای انتشار محتوای جعلی و فریبنده درباره موضوعات ژئوپلیتیکی استفاده می‌کردند، مختل کرده است. این عملیات‌ها شامل استفاده از رسانه‌های خبری معتبر و یک سازمان پژوهشی بود که به گفته اوپن‌ای‌آی، کارکنان محلی آن از هویت واقعی پشت این فعالیت‌ها اطلاع نداشتند.
اوپن‌ای‌آی در گزارشی که ۱۲ اکتبر منتشر کرد، جزئیات دو کارزار را تشریح کرد که در آن‌ها تولید محتوا با کمک هوش مصنوعی، هویت‌های جعلی، اسناد ساختگی و فعالیت‌های هماهنگ در فضای آنلاین با یکدیگر ترکیب شده بودند.
عملیات ایرانی که «Bogus Bylines» نام گرفت، از هفت هویت جعلی روزنامه‌نگاری برای پیشنهاد انتشار مطالب درباره درگیری میان آمریکا و ایران به رسانه‌های آنلاین در سراسر جهان استفاده می‌کرد. اوپن‌ای‌آی نزدیک به ۱۰۰ مقاله را شناسایی کرد که بین ژوئیه ۲۰۲۵ تا اکتبر ۲۰۲۶ در حدود دوازده رسانه منتشر یا بازنشر شده بودند.
عاملان این عملیات از ChatGPT برای اصلاح مقالات مطابق با معیارهای ارسال هر نشریه و همچنین تهیه ایمیل برای سردبیران استفاده می‌کردند. آن‌ها همچنین مجموعه‌ای از دیدگاه‌های شبکه‌های اجتماعی را تولید کردند که روایت‌هایی در حمایت از این ادعا منتشر می‌کردند که آمریکا عامل تجاوز است و ایران قربانی مقاومی در برابر فشارها به شمار می‌رود.
این مقالات از طریق رسانه‌های شناخته‌شده به مخاطبان رسیدند، اما دیدگاه‌های همراه در شبکه‌های اجتماعی معمولاً تعامل چندانی دریافت نکردند. اوپن‌ای‌آی فعالیت انتشار مقاله را در سطح ۴ از مقیاس شش‌سطحی «گسترش عملیات‌های نفوذ» ارزیابی کرد، در حالی که کارزار انتشار دیدگاه‌ها در سطح ۲ قرار گرفت.
عملیات با منشأ روسی که «Dark Clark» نام‌گذاری شد، رویکرد متفاوتی داشت و از یک سازمان پژوهشی ظاهراً آمریکای لاتین به نام «مرکز پژوهش اجتماعی» (SRC) به‌عنوان پوشش استفاده می‌کرد.
اوپن‌ای‌آی اعلام کرد به نظر می‌رسد گردانندگان این عملیات، سازمان مذکور را از طریق هویتی جعلی به نام «میا کلارک» کنترل می‌کردند. کارکنان محلی این مرکز مصاحبه انجام می‌دادند و پژوهش تولید می‌کردند، در حالی که ظاهراً نمی‌دانستند برای یک عملیات روسی کار می‌کنند. اوپن‌ای‌آی بیش از ۶۰ مقاله را در وب‌سایت SRC شناسایی کرد که بیشتر آن‌ها ظاهراً محتوای اصلی بودند.
گفته می‌شود این کارزار با هدف تضعیف اعتبار اوکراین و تأثیرگذاری بر سیاست داخلی، به‌ویژه در آرژانتین و بولیوی، انجام شده است.
گردانندگان این عملیات همچنین از ChatGPT برای کمک به ساخت اسناد جعلی و متن‌های صوتی استفاده کردند. در یک مورد، آن‌ها نامه‌ای جعلی تهیه کردند که در آن کنسول افتخاری اوکراین در پاناما به فساد متهم شده بود. سپس سندی مشابه به همراه یک فایل صوتی روی تیک‌تاک از طریق حسابی که خود را رسانه خبری معرفی می‌کرد، منتشر شد.
از دیگر روش‌های گزارش‌شده می‌توان به ارتباطات جعلی علیه مدارس در پرو و اکوادور اشاره کرد. اوپن‌ای‌آی اعلام کرد پوشش رسانه‌ای و واکنش‌های رسمی در برخی موارد با ادعاهای این عوامل همخوانی داشت، اما هشدار داد گزارش‌های داخلی این عملیات‌ها گاهی میزان تأثیرگذاری آن‌ها را بزرگ‌نمایی کرده یا مسئولیت رویدادهایی نامرتبط را به خود نسبت داده بودند.
اوپن‌ای‌آی عملیات Dark Clark را در سطح ۵ از مقیاس شش‌سطحی خود قرار داد؛ بالاترین رتبه‌ای که این شرکت از زمان آغاز انتشار این گزارش‌ها به یک عملیات اختصاص داده است.
این شرکت اعلام کرد هر دو کارزار شباهت‌هایی با عملیات‌های نفوذی پیش از ظهور هوش مصنوعی مولد داشتند، اما هوش مصنوعی تولید، ترجمه و اصلاح محتوا در مقیاس گسترده را آسان‌تر کرده است. اوپن‌ای‌آی حساب‌های مرتبط با این فعالیت‌ها را مسدود کرد و اطلاعات مربوطه را با مقام‌های مسئول به اشتراک گذاشت.
این یافته‌ها نشان می‌دهد چگونه کارزارهای مخفی می‌توانند از اعتبار رسانه‌های شناخته‌شده و مؤسسات پژوهشی برای جلب اعتماد مخاطبان استفاده کنند؛ به‌گونه‌ای که افراد بدون دلیل آشکار برای تردید، ممکن است با محتوایی روبه‌رو شوند که بخشی از یک عملیات هماهنگ نفوذ اطلاعاتی است.