دفاع غیرمنتظره اوپن‌ای‌آی در برابر دیپ‌فیک‌های انتخاباتی
یکی از بزرگ‌ترین مشکلات عصر هوش مصنوعی این است که دیپ‌فیک‌های تولیدشده با این فناوری آن‌قدر واقع‌گرایانه شده‌اند که تشخیص آن‌ها از عکس‌های واقعی تقریباً غیرممکن است. این مسئله در فصل انتخابات اهمیت ویژه‌ای دارد؛ زمانی که رأی‌دهندگان برای کسب اطلاعات معتبر و درست درباره نامزدها و مراکز رأی‌گیری به منابع قابل اعتماد نیاز دارند. اوپن‌ای‌آی اکنون تدبیر حفاظتی تازه‌ای را اجرا کرده است تا از تولید دیپ‌فیک‌های سیاسی با استفاده از ابزارهای هوش مصنوعی جلوگیری کند.
تنها یک هفته تا انتخابات میان‌دوره‌ای آمریکا در ۳ نوامبر باقی مانده است. مسائل مرتبط با فناوری در بسیاری از رقابت‌های انتخاباتی به موضوعی محوری تبدیل شده‌اند؛ به‌ویژه آنکه نگرانی‌ها درباره هوش مصنوعی و مراکز داده در میان مردم سراسر کشور افزایش یافته است. در همین زمینه، مسائل فناورانه در انتخابات میان‌دوره‌ای و نگرانی‌ها درباره مداخله هوش مصنوعی در فرایند سیاسی نیز مورد توجه قرار گرفته‌اند. سی‌نت همچنین راهنمایی برای شناسایی کلاهبرداری‌های انتخاباتی منتشر کرده است.
طبق توضیح اوپن‌ای‌آی در به‌روزرسانی ۲۰ اکتبر، اگر امروز از چت‌جی‌پی‌تی بخواهید تصویری «با موضوع مداخله در انتخابات یا تصویری که ممکن است مردم را از رأی دادن منصرف کند» تولید کند، این چت‌بات در صورتی که درخواست با سایر دستورالعمل‌های محتوایی مغایرت نداشته باشد، تصویر را می‌سازد. بااین‌حال، تصویر به سبک نقاشی یا کارتونی خواهد بود و درخواست برای نمایش فوتورئالیستی آن نادیده گرفته می‌شود.
برای نمونه، سی‌نت از چت‌جی‌پی‌تی خواست تصویری از مأموران اداره مهاجرت و گمرک آمریکا (ICE) در بیرون یک مرکز رأی‌گیری تولید کند. در تمام آزمایش‌ها، این درخواست به تولید تصویری با سبک کارتونی انجامید. تصویری واقع‌گرایانه از چنین موقعیتی می‌تواند در میان رأی‌دهندگان اضطراب ایجاد کند یا حتی به وحشت آشکار بینجامد.
هدف این است که افراد بدخواه نتوانند به‌آسانی دیپ‌فیک‌های سیاسی واقع‌گرایانه‌ای بسازند که در انتخابات اخلال ایجاد کنند یا سلامت آن را زیر سؤال ببرند؛ درعین‌حال، امکان تولید محتوای سیاسی به‌طور کلی از کاربران گرفته نشود. در نمونه‌ای دیگر، جان رید، سردبیر اجرایی سی‌نت، نتوانست چت‌جی‌پی‌تی را وادار کند تصویری به سبک عکاسی خبری تولید کند که در آن دستگاه رأی‌گیری، رأیی متفاوت از انتخاب رأی‌دهنده را ثبت می‌کند.
جاش لاوسون، مسئول امور انتخاباتی در اوپن‌ای‌آی، به سی‌نت گفت: «مشکل دیپ‌فیک‌ها اظهارنظر اجتماعی نیست، بلکه فریبکاری است. بنابراین، هدف ما این است که ارزش یک تصویر به‌عنوان مدرک را کاهش دهیم و درعین‌حال، امکان استفاده از تصویرسازی و اظهارنظر اجتماعی را حفظ کنیم.» او افزود هدف این است که «با ایجاد یک مانع اضافی، کارایی پلتفرم خود را برای افراد بدخواه کاهش دهیم».
تبدیل تصاویر تولیدشده با هوش مصنوعی به تصاویر کارتونی، راهکاری عملی است که ساخت دیپ‌فیک‌های سیاسی را تا حدی دشوارتر می‌کند. بهبود مدل‌های تولید تصویر هوش مصنوعی، مانند ChatGPT Images 2.5، هم مزیت دارد و هم خطر. مدل‌های جدیدتر اشتباهات و توهمات کمتری دارند و در نتیجه، محتوای باکیفیت‌تری برای تولیدکنندگان فراهم می‌کنند. اما کاهش این خطاها باعث می‌شود تشخیص محتوای ساخته‌شده با هوش مصنوعی برای دیگران، تنها با مشاهده تصویر و بدون ابزار کمکی، دشوارتر شود. روش‌های راستی‌آزمایی و برچسب‌گذاری محتوای هوش مصنوعی برای حل این مشکل به کار گرفته شده‌اند، اما این روش‌ها نه در سراسر صنعت به‌طور یکسان اجرا می‌شوند و نه کاملاً قابل اعتمادند.
وقتی از گوگل، شرکت سازنده جمینای، درباره تدابیر مشخص این شرکت برای تصاویر تولیدشده با هوش مصنوعی پرسیدم، سخنگوی آن به سیاست‌های گوگل برای انتخابات میان‌دوره‌ای ارجاع داد. در این سیاست‌ها آمده است که شرکت در حال «اجرای تدابیر حفاظتی بیشتر برای محدود کردن تولید تصاویر گمراه‌کننده مرتبط با انتخابات» است؛ بااین‌حال، جزئیاتی درباره نحوه اجرای این تدابیر ارائه نشده است.
شرکت آنتروپیک ابزار متعارفی برای تولید تصویر یا ویدئو ندارد. بااین‌حال، سخنگوی این شرکت به سی‌نت گفت هرگونه تلاش برای استفاده از کلود با هدف فریب رأی‌دهندگان یا مختل کردن انتخابات، ناقض سیاست‌های آن است. آنتروپیک همچنین در اوایل همین ماه راهنمایی عمومی درباره انتخابات منتشر کرده بود.
هیچ تضمینی وجود ندارد که اوپن‌ای‌آی پس از پایان دوره انتخابات نیز این سازوکار را حفظ کند. بااین‌حال، اقدام این شرکت، که یکی از بزرگ‌ترین مجموعه‌های فعال در حوزه هوش مصنوعی است، نشانه امیدوارکننده‌ای است از اینکه دست‌کم تا حدی مسئولیت خود را در حفاظت از سلامت انتخابات آمریکا جدی می‌گیرد.
برای کسب اطلاعات بیشتر، می‌توانید راهنمای اقداماتی که هنگام جعل هویت شما با دیپ‌فیک باید انجام دهید و مطلب درباره قانون «Take It Down» و نکاتی که باید درباره آن بدانید را مطالعه کنید.