گوگل اکنون امکان بررسی تولید شدن تصویر، ویدئو یا فایل صوتی با هوش مصنوعی را فراهم کرده است
گوگل گام تازه‌ای برای شناسایی محتوای تولیدشده با هوش مصنوعی برداشته است. این شرکت ابزار SynthID Detector را به‌صورت عمومی در دسترس قرار داده است؛ ابزاری که امکان بررسی وجود واترمارک‌های دیجیتال SynthID در فایل‌های تصویری، ویدئویی یا صوتی را فراهم می‌کند. SynthID فناوری گوگل برای شناسایی محتوایی است که با استفاده از مدل‌های هوش مصنوعی این شرکت تولید شده است.
این سرویس که در حال حاضر به زبان انگلیسی ارائه می‌شود، فایل‌ها را برای یافتن نشانه‌هایی بررسی می‌کند که معمولاً برای چشم و گوش انسان قابل تشخیص نیستند. هدف از این ابزار، تسهیل شناسایی منشأ برخی محتواهای منتشرشده در اینترنت و ارائه روشی کمکی برای بررسی تصاویر، ویدئوها و فایل‌های صوتی در دوره‌ای است که تشخیص تفاوت میان محتوای واقعی و تولیدشده با هوش مصنوعی دشوارتر شده است.
SynthID Detector چگونه کار می‌کند؟
برخلاف برخی سامانه‌ها که تلاش می‌کنند مصنوعی بودن یک تصویر را بر اساس ویژگی‌های ظاهری آن تشخیص دهند، SynthID Detector به دنبال واترمارک دیجیتالی است که هنگام تولید محتوا در آن قرار گرفته است. این نشانه به‌گونه‌ای طراحی شده که ظاهر تصاویر را تغییر ندهد و در فایل‌های صوتی نیز قابل شنیدن نباشد، اما توسط سامانه‌های تشخیص گوگل قابل شناسایی باشد.
فناوری SynthID در ابزارهای مختلف هوش مصنوعی گوگل استفاده می‌شود و امکان شناسایی برخی محتواهای تولیدشده با مدل‌های این شرکت را فراهم می‌کند. گوگل همچنین اعلام کرده است که برای گسترش دامنه استفاده از این سیستم با دیگر شرکت‌های فناوری همکاری می‌کند. با این حال، این موضوع به معنای آن نیست که ابزار می‌تواند هر تصویر، ویدئو یا فایل صوتی ساخته‌شده با هوش مصنوعی را تشخیص دهد.
آیا این ابزار می‌تواند هر تصویر یا ویدئوی جعلی را تشخیص دهد؟
یکی از محدودیت‌های اصلی SynthID Detector این است که نبودن واترمارک به معنای اثبات واقعی بودن محتوا نیست. این ابزار به دنبال یک نشانه مشخص می‌گردد و به همین دلیل ممکن است فایل‌هایی را که با سامانه‌هایی بدون قابلیت SynthID تولید شده‌اند، شناسایی نکند.
همچنین وجود واترمارک نباید با تأیید کامل صحت یک تصویر یا فایل صوتی اشتباه گرفته شود. ممکن است فایلی با هوش مصنوعی تولید شده باشد اما رویدادهای واقعی را نمایش دهد؛ در مقابل، یک عکس واقعی نیز می‌تواند با قرار گرفتن در یک زمینه گمراه‌کننده برای انتشار اطلاعات نادرست استفاده شود.
گوگل فناوری خود را به‌گونه‌ای طراحی کرده است که واترمارک‌ها حتی پس از برخی تغییرات مانند فشرده‌سازی یا برش تصویر همچنان قابل تشخیص باقی بمانند. با این حال، این قابلیت‌ها باعث نمی‌شود این سیستم به یک تشخیص‌دهنده جهانی تبدیل شود و نیاز به مقایسه محتوا با منابع دیگر را از بین نمی‌برد.
گوگل شناسایی محتوای تولیدشده با هوش مصنوعی را تقویت می‌کند
عرضه عمومی SynthID Detector در شرایطی انجام شده است که تصاویر واقع‌گرایانه، صداهای مصنوعی و ویدئوهای تولیدشده با هوش مصنوعی، تشخیص منشأ محتوا را دشوارتر کرده‌اند. در چنین شرایطی، ابزارهای بررسی می‌توانند برای روزنامه‌نگاران، پژوهشگران و کاربرانی که می‌خواهند فایل‌های دریافتی یا محتوای پیدا شده در شبکه‌های اجتماعی را بررسی کنند، کاربردی باشند.
بر اساس داده‌های ارائه‌شده از سوی گوگل، این شرکت از زمان معرفی SynthID در سال ۲۰۲۳، این فناوری را در بیش از ۱۸۰ میلیارد تصویر و ویدئو و همچنین محتوای صوتی به کار گرفته است. این ارقام نشان‌دهنده مقیاس گسترده سامانه نشانه‌گذاری گوگل است، اما به این معنا نیست که همه این فایل‌ها از طریق ابزار تشخیص برای عموم قابل بررسی هستند.
با SynthID Detector، گوگل دسترسی به فناوری‌ای را گسترش می‌دهد که تا پیش از این با گروه‌های محدودی از متخصصان و کاربران آزمایش می‌شد. این ابزار روش تازه‌ای برای بررسی منشأ برخی محتواهای دیجیتال ارائه می‌کند، اما نتایج آن باید به‌عنوان یک نشانه فنی و نه تضمینی قطعی درباره واقعی یا جعلی بودن محتوا تفسیر شود.