هشدار OpenAI و متا به کمیته قضایی آمریکا درباره شواهد جعلی ساخته‌شده با هوش مصنوعی
۱۵ اکتبر ۲۰۲۶، ساعت ۱۴:۱۶ به وقت شرق آمریکا
اینوستینگ دات‌کام ــ نمایندگان شرکت‌های OpenAI و متا پلتفرمز روز پنجشنبه به یک کمیته قضایی فدرال آمریکا هشدار دادند که فناوری تولید محتوای جعلی با هوش مصنوعی، موسوم به دیپ‌فیک، به اندازه‌ای پیشرفت کرده است که تشخیص اصالت فایل‌های صوتی و تصویری ارائه‌شده به دادگاه‌ها در آینده دشوارتر خواهد شد.
این کارشناسان فناوری در نشست کمیته مشورتی مقررات ادله اثبات دعوا وابسته به کنفرانس قضایی ایالات متحده در بوستون، نگرانی‌های خود را مطرح کردند. این کمیته سه سال است که راهکارهای مقابله با خطر ارائه شواهد جعلی تولیدشده با هوش مصنوعی در دادگاه‌ها را بررسی می‌کند.
شیرا اندرسون، مشاور حقوقی سیاست‌گذاری در OpenAI، به اعضای کمیته گفت کیفیت تصاویر تولیدشده با هوش مصنوعی همچنان در حال افزایش است. او معتقد است حتی در آینده نیز روش علمی مشخصی برای شناسایی قطعی این تصاویر وجود نخواهد داشت.
این کمیته از سال ۲۰۲۳ بررسی چالش‌های مربوط به احراز اصالت محتوای دیپ‌فیک را آغاز کرده است. یکی دیگر از محورهای فعالیت آن، اطمینان از این موضوع است که شواهد تولیدشده با هوش مصنوعی از همان استانداردهای اعتبار و قابلیت اتکایی برخوردار باشند که برای شواهد ارائه‌شده از سوی کارشناسان انسانی در نظر گرفته می‌شود.
بر اساس نظرسنجی مرکز قضایی فدرال در ماه مارس، از میان ۹۳۱ قاضی شرکت‌کننده، تنها ۱۵ نفر با پرونده‌ای روبه‌رو شده بودند که در آن یکی از طرفین دعوا، به دلیل احتمال دیپ‌فیک بودن یک مدرک، اصالت آن را زیر سؤال برده بود.
جسی فورمن، قاضی دادگاه منطقه‌ای فدرال آمریکا در منهتن و رئیس این کمیته، خاطرنشان کرد که اگرچه در نوشته‌ها و تحلیل‌های دانشگاهی پیش‌بینی می‌شود دادگاه‌ها با مسئله دیپ‌فیک مواجه شوند، چنین مواردی تاکنون در پرونده‌های واقعی چندان رایج نبوده است.
دوین نوردر، مدیر مدیریت محصول در متا، گفت محتوای صوتی و تصویری تولیدشده با مدل‌های جدید هوش مصنوعی به مرحله‌ای رسیده است که انسان نمی‌تواند آن را از محتوای واقعی تشخیص دهد. به گفته او، تولید چنین محتوایی اکنون به زمان و هزینه بسیار اندکی نیاز دارد.
شرکت‌هایی از جمله OpenAI و متا ابزارهایی برای تأیید اصالت محتوای بصری توسعه داده‌اند. همچنین قوانین جدید در کالیفرنیا و اتحادیه اروپا، استفاده از واترمارک یا نشان دیجیتال را برای شناسایی محتوای دیپ‌فیک الزامی کرده‌اند.
با این حال، اندرسون هشدار داد که هر شرکت از سامانه اختصاصی خود استفاده می‌کند و به همین دلیل، هیچ روش یکپارچه و فراگیری برای شناسایی قابل‌اعتماد تمام واترمارک‌ها یا تأیید اصالت محتوای بصری وجود ندارد. او تأکید کرد که اگرچه این سامانه‌ها به پیشرفت خود ادامه خواهند داد، هرگز نمی‌توان به قابلیت اطمینان کامل آن‌ها دست یافت.