اوپن‌ای‌آی حساب‌های مرتبط با کارزار نفوذ ایران برای انتشار یادداشت‌های سیاسی با کمک هوش مصنوعی را مسدود کرد
اوپن‌ای‌آی اعلام کرده است که عاملان یک عملیات نفوذ در ایران از چت‌جی‌پی‌تی برای ویرایش مقاله‌ها، ارائه پیشنهاد انتشار به رسانه‌های خارجی و تولید دیدگاه‌های مخاطبان استفاده کرده‌اند تا انتقادها از آمریکا و متحدانش را گسترش دهند.
به گزارش سی‌ان‌ان، اوپن‌ای‌آی اعلام کرده است شبکه‌ای از افراد در ایران با استفاده از ابزارهای این شرکت تلاش کرده‌اند یادداشت‌های سیاسی جنجالی را در رسانه‌های خارجی منتشر کنند و هم‌زمان، نظرهایی برای شبکه‌های اجتماعی بسازند تا به دیده‌شدن بیشتر این مطالب کمک کنند. این شرکت پس از شناسایی دستورهای فارسی‌زبان مورد استفاده برای ویرایش پیش‌نویس مقاله‌ها، بهبود پیشنهادهای ارسال‌شده به رسانه‌ها و تولید پست‌هایی برای تقویت بازتاب آنلاین مطالب، حساب‌های چت‌جی‌پی‌تی دخیل در این فعالیت را مسدود کرد.
مطالب این کارزار بر انتقاد از ایالات متحده و متحدانش در جریان جنگ ایران متمرکز بودند. از جمله عنوان‌های منتشرشده می‌توان به «آیا سیاست آمریکا در قبال ایران به بخش خصوصی واگذار می‌شود؟ پرسش جرد کوشنر» و «جنگ ایران و فروپاشی اعتبار اخلاقی غرب» اشاره کرد. سی‌ان‌ان گزارش داد که این مقاله‌ها به‌جای روزنامه‌های بزرگ و جریان اصلی، در مجموعه‌ای از رسانه‌ها، از جمله ال‌ای پراگرسیو و میدل ایست مانیتور، منتشر شده‌اند؛ رسانه‌ای که مخاطبان آنلاین قابل‌توجهی دارد. داود عبدالله، مدیر میدل ایست مانیتور، به سی‌ان‌ان گفت که مطالبی را که اوپن‌ای‌آی درباره آن‌ها هشدار داده است بررسی خواهد کرد و «اقدام مناسب را انجام خواهد داد». یکی دیگر از نمایندگان این رسانه بعداً اعلام کرد که مقاله‌ها حذف شده‌اند و روند بررسی مطالب ارسالی در دست بازبینی است.
اوپن‌ای‌آی گفته است این عملیات از نظر فنی چندان پیچیده به نظر نمی‌رسید، اما ساختار آن به‌اندازه‌ای منسجم بود که بیشتر به یک کارزار تجاری نفوذ شباهت داشت تا اقدامی آماتوری. این شرکت نتوانسته است مشخص کند چه کسانی پشت این عملیات بوده‌اند یا آیا فعالیت‌ها ارتباط مستقیمی با دولت ایران داشته‌اند. بر اساس گزارش اوپن‌ای‌آی، عاملان این کارزار نه‌تنها مقاله‌ها را تهیه و برای انتشار عرضه می‌کردند، بلکه دوباره به چت‌بات مراجعه می‌کردند تا دیدگاه‌هایی تولید کنند که بتوانند آن‌ها را در نقش خوانندگان عادی و در واکنش به مقاله‌ها منتشر کنند.
این افشاگری در شرایطی صورت می‌گیرد که نگرانی‌ها درباره استفاده از هوش مصنوعی برای تحریف پوشش خبری جنگ ایران افزایش یافته است. سی‌ان‌ان در ماه مارس گزارش داد تصاویر و ویدئوهای تولیدشده با هوش مصنوعی درباره جنگ به‌سرعت در فضای آنلاین منتشر شده‌اند و ده‌ها میلیون بار دیده شده‌اند؛ وضعیتی که تشخیص تصاویر واقعی از محتوای جعلی را برای مخاطبان دشوارتر کرده است. اوپن‌ای‌آی نیز اخیراً موارد دیگری از رفتار فریبکارانه مدل‌های هوش مصنوعی را که در جریان آزمایش‌ها شناسایی کرده بود، افشا کرده است؛ موضوعی که بحث درباره سرعت لازم برای تدوین مقررات نظارتی بر این فناوری را تشدید کرده است.
منبع عنوان گزارش: گزارش مدیاویک درباره انتشار یادداشت‌های جعلی درباره جنگ ایران با کمک هوش مصنوعی.
منابع گزارش:
- بخش نخست: گزارش سی‌ان‌ان درباره فریب‌کاری با هوش مصنوعی.
- بخش دوم: گزارش مدیاویک درباره انتشار یادداشت‌های سیاسی مرتبط با جنگ ایران.
- بخش سوم: گزارش مدیاویک درباره انتشار یادداشت‌های سیاسی مرتبط با جنگ ایران.
- بخش چهارم: گزارش سی‌ان‌ان درباره فریب‌کاری با هوش مصنوعی و گزارش سی‌ان‌ان درباره ویدئوهای جعلی تولیدشده با هوش مصنوعی در جنگ ایران.
منبع: سرویس خبری نوآ وایر · نسخه اصلی گزارش.