اوپن‌ای‌آی: تشخیص اصالت دیپ‌فیک‌های تولیدشده با هوش مصنوعی غیرممکن خواهد شد
نویسنده: لوکاس نولان | ۱۷ اکتبر ۲۰۲۶
قضات فدرال که در بوستون گرد هم آمده بودند، هشدارهای فعالان صنعت فناوری را درباره دشوارتر شدن روزافزون تشخیص اصالت تصاویر و ویدئوهای تولیدشده با هوش مصنوعی شنیدند. این هشدارها در شرایطی مطرح شد که کمیته‌ای قضایی در حال بررسی این موضوع است که آیا دادگاه‌ها برای ارزیابی شواهدی که ممکن است دیپ‌فیک باشند، نه تصاویر و ویدئوهای واقعی، به قواعد جدیدی نیاز دارند یا خیر.
به گزارش رویترز، کمیته مشورتی قواعد ادله کنفرانس قضایی ایالات متحده از سال ۲۰۲۳، یعنی سه سال پیش، بررسی نحوه برخورد دادگاه‌ها با شواهدی را آغاز کرده است که ممکن است با استفاده از هوش مصنوعی جعل یا دست‌کاری شده باشند. نمایندگان اوپن‌ای‌آی و متا در نشست روز پنجشنبه به اعضای این کمیته گفتند که شناسایی چنین جعل‌هایی در آینده دشوارتر خواهد شد.
شیرا اندرسون، مشاور سیاست‌گذاری اوپن‌ای‌آی، گفت: «تصاویر تولیدشده با هوش مصنوعی مدام بهتر می‌شوند و فکر نمی‌کنم در آینده روش علمی‌ای برای تشخیص آن‌ها وجود داشته باشد.»
دوین نوردر، مدیر مدیریت محصول در متا، به کمیته گفت که جدیدترین نسل مدل‌های هوش مصنوعی محتوایی تولید می‌کند که مردم به‌سادگی نمی‌توانند آن را از محتوای واقعی تشخیص دهند. نوردر گفت: «رسانه‌های تولیدشده با پیشرفته‌ترین مدل‌ها، دست‌کم در چند نسل اخیر این مدل‌ها، برای انسان از رسانه‌های اصیل یا تولیدشده با هوش مصنوعی قابل‌تمایز نیستند.» او افزود که ساخت جعل‌های باورپذیر دیگر به زمان یا هزینه زیادی نیاز ندارد: «در حال حاضر، هزینه و زمانی که برای تولید این محتوا لازم است، واقعاً ناچیز است.»
هر دو شرکت ابزارهایی برای بررسی اصالت محتوای تصویری توسعه داده‌اند و قانون‌گذاران نیز به سمت راهکارهای مشابه حرکت کرده‌اند. کالیفرنیا و اتحادیه اروپا قوانینی تصویب کرده‌اند که بر اساس آن‌ها باید از «واترمارک‌گذاری» برای مشخص کردن محتوای تولیدشده با هوش مصنوعی استفاده شود. با این حال، اندرسون هشدار داد که هیچ سامانه‌ای به‌تنهایی نمی‌تواند همه موارد را شناسایی کند، زیرا ابزارهای شرکت‌های مختلف با یکدیگر ارتباط ندارند. او گفت: «حدس من این است که این فناوری قطعاً به پیشرفت خود ادامه خواهد داد. اما فکر نمی‌کنم هیچ‌وقت بتوان به سامانه‌ای رسید که خطاناپذیر باشد.»
با وجود این هشدارها، کمیته شواهد اندکی یافته است که نشان دهد دیپ‌فیک‌ها واقعاً به دادگاه‌ها راه پیدا کرده‌اند. در نظرسنجی‌ای که مرکز قضایی فدرال، بازوی پژوهشی دستگاه قضایی آمریکا، در ماه مارس منتشر کرد، از ۹۳۱ قاضی پرسش شد و مشخص شد که تنها ۱۵ نفر از آن‌ها با پرونده‌ای مواجه شده‌اند که در آن یکی از طرفین، شواهد ارائه‌شده را به دلیل احتمال دیپ‌فیک بودن به چالش کشیده است. جسی فورمن، قاضی دادگاه منطقه‌ای آمریکا در منهتن و رئیس این کمیته، به فاصله میان پیش‌بینی‌ها و واقعیت اشاره کرد. فورمن گفت: «اظهارنظرهای دانشگاهی و دیدگاه‌های دیگری وجود دارد که پیش‌بینی می‌کنند دادگاه‌ها با دیپ‌فیک‌ها سروکار خواهند داشت، اما تاکنون عملاً موارد زیادی از این دست ندیده‌ایم.»
همین فاصله میان نگرانی‌ها و موارد مشاهده‌شده، اعضای کمیته را درباره ضرورت تدوین قواعد اختصاصی برای شواهد مرتبط با هوش مصنوعی دچار اختلاف کرده است. والری کاپرونی، قاضی دادگاه منطقه‌ای آمریکا در منهتن، استدلال کرد که دادگاه‌ها همین حالا هم ابزارهای قانونی لازم را در اختیار دارند و نیازی نیست صرفاً به دلیل ظهور هوش مصنوعی، این قواعد را از نو تدوین کنند. کاپرونی گفت: «ما از زمان قابیل و هابیل با افراد بدخواهی روبه‌رو بوده‌ایم که شواهد جعلی ارائه می‌کنند. این مسئله‌ای دیرینه است.»
دیپ‌فیک‌های تولیدشده با هوش مصنوعی از طریق استفاده در طرح‌های کلاهبرداری، برای شهروندان عادی آمریکا نیز مشکل‌ساز شده‌اند. وینتون هال در کتاب پرفروش خود در فهرست نیویورک تایمز با عنوان کد قرمز: چپ، راست، چین و رقابت برای کنترل هوش مصنوعی این تهدید را توضیح می‌دهد.
هال در گفت‌وگویی با شبکه نیوزمکس توضیح داد:
این نویسنده گفت: «کلاهبرداران حالا می‌توانند شبکه‌های اجتماعی شما را بررسی کنند و پرونده‌ای مفصل درباره زندگی‌تان بسازند. سپس از هوش مصنوعی برای تقلید صدای یکی از عزیزانتان استفاده می‌کنند؛ آن‌قدر قانع‌کننده که غریزه‌تان به شما می‌گوید صدای واقعی او را می‌شنوید.»
هال افزود: «این ابزارها اکنون به‌گونه‌ای در دسترس عموم قرار گرفته‌اند که ارزان و آسان برای استفاده هستند؛ بنابراین، افراد زیادی می‌توانند در مقیاسی گسترده از آن‌ها استفاده کنند.»
بر اساس آمار اداره تحقیقات فدرال آمریکا (اف‌بی‌آی)، در سال ۲۰۲۵ بیش از ۲۲ هزار شکایت درباره کلاهبرداری‌های مرتبط با هوش مصنوعی ثبت شد و زیان مالی ناشی از آن‌ها به نزدیک ۸۹۳ میلیون دلار رسید.
گزارش کامل را در رویترز بخوانید.
لوکاس نولان خبرنگار بریتبارت نیوز است و موضوعات مرتبط با هوش مصنوعی، آزادی بیان و سانسور آنلاین را پوشش می‌دهد.