اوپن‌ای‌آی متن‌های تولیدشده توسط چت‌جی‌پی‌تی را در اتحادیه اروپا با واترمارک نامرئی علامت‌گذاری می‌کند؛ مالزی به‌طور پیش‌فرض شامل نمی‌شود
کوالالامپور، ۱۲ اکتبر — تصور کنید دو دانشجوی دانشگاه از چت‌جی‌پی‌تی می‌خواهند یک خلاصه برای تکلیف خود تهیه کنند؛ یکی در پتالینگ جایا و دیگری در مونیخ.
هر دو متن را با چند تغییر جزئی در مقاله خود وارد می‌کنند. نوشته دانشجوی مونیخی دارای یک الگوی آماری پنهان خواهد بود که یک ابزار تشخیص ویژه می‌تواند بعداً آن را شناسایی کند، اما متن دانشجوی مالزیایی چنین نشانه‌ای نخواهد داشت.
این تفاوت ناشی از برنامه اوپن‌ای‌آی برای افزودن واترمارک نامرئی به متن‌های تولیدشده توسط چت‌جی‌پی‌تی و کدکس است؛ قابلیتی که این شرکت امروز در یک پست وبلاگی اعلام کرد تا با قوانین جدید اتحادیه اروپا درباره شفافیت محتوای تولیدشده با هوش مصنوعی مطابقت داشته باشد.
فعلاً فقط برای اتحادیه اروپا
واترمارک طی هفته‌های آینده برای کاربران واجد شرایط چت‌جی‌پی‌تی و کدکس در اتحادیه اروپا و در تمامی طرح‌ها عرضه خواهد شد. اوپن‌ای‌آی اعلام کرده است که در زمان آغاز عرضه، واترمارک‌گذاری متن را به‌عنوان یک تنظیم پیش‌فرض جهانی فعال نمی‌کند.
قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا که از ۲ اوت اجرایی شده‌اند، شرکت‌های هوش مصنوعی را ملزم می‌کنند محتوای تولیدشده توسط هوش مصنوعی را به شکلی علامت‌گذاری کنند که سایر سامانه‌ها بتوانند آن را شناسایی کنند.
توسعه‌دهندگان مالزیایی که از API اوپن‌ای‌آی استفاده می‌کنند، از امروز می‌توانند برای برخی مدل‌های منتخب متن دارای واترمارک را فعال کنند، اما این قابلیت به‌طور پیش‌فرض خاموش است.
اوپن‌ای‌آی همچنین اعلام کرده است با شرکای ابری خود همکاری می‌کند تا در هفته‌های آینده امکان واترمارک‌گذاری خروجی مدل‌هایی را که از طریق خدمات آن‌ها در دسترس هستند فراهم کند.
نحوه عملکرد
این واترمارک یک نماد قابل مشاهده نیست، بلکه با تغییرات بسیار جزئی در انتخاب واژه‌های مدل کار می‌کند؛ به‌گونه‌ای که الگویی ایجاد می‌شود که برای خواننده قابل مشاهده نیست اما یک ابزار تشخیص می‌تواند آن را شناسایی کند.
روش اوپن‌ای‌آی که «textGrain» نام دارد، از یک کلید محرمانه برای مرتب‌سازی پیش‌بینی‌های واژه بعدی مدل استفاده می‌کند. صدها تغییر کوچک در کنار هم به سیگنالی تبدیل می‌شوند که یک ابزار تشخیص می‌تواند تنها با استفاده از متن و آن کلید، آن را بخواند.
از آنجا که این سیگنال در خود واژه‌ها قرار دارد، هنگام کپی و جای‌گذاری متن نیز همراه آن منتقل می‌شود.
اوپن‌ای‌آی گفته است این واترمارک هویت کاربر را مشخص نمی‌کند و آزمایش‌های این شرکت نشان داده‌اند که فعال بودن آن تغییر معناداری در عملکرد مدل‌ها ایجاد نکرده است.
تضعیف آسان
با این حال، این واترمارک کاملاً بدون نقص نیست و آزمایش‌های خود اوپن‌ای‌آی نشان می‌دهد که می‌توان آن را به‌سادگی تضعیف کرد.
در یکی از آزمایش‌ها روی متن‌هایی با ۴۰۰ توکن، جایگزین کردن ۱۰ درصد واژه‌ها با مترادف‌ها میزان تشخیص را از حدود ۹۲ درصد به ۶۶ درصد کاهش داد؛ در حالی که جایگزینی ۲۵ درصد واژه‌ها این میزان را به ۱۷ درصد رساند.
متن‌های کوتاه، پاسخ‌های ریاضی و متن‌های ترجمه‌شده نیز تشخیص دشوارتری دارند. ابزار تشخیص حدود ۸۰ درصد از متن‌های ۲۰۰ توکنی را شناسایی کرد، در حالی که این رقم برای متن‌های ۴۰۰ توکنی حدود ۹۵ درصد بود.
با توجه به این محدودیت‌ها، اوپن‌ای‌آی در مرحله نخست دسترسی به ابزار تشخیص را فقط در اختیار پژوهشگران تأییدشده و سازمان‌های تخصصی قرار می‌دهد که از امروز می‌توانند درخواست دسترسی ارائه کنند.
به این ترتیب، دانشجویان و استادان فعلاً نمی‌توانند خودشان متن‌ها را بررسی کنند.
چیزی که واترمارک نمی‌تواند مشخص کند
اوپن‌ای‌آی همچنین هشدار داده است که نبودن واترمارک «اثبات نمی‌کند که متن توسط انسان نوشته شده است»، زیرا ممکن است متن بیش از حد کوتاه باشد، به‌شدت ویرایش شده باشد، ترجمه شده باشد یا توسط هوش مصنوعی یک شرکت دیگر تولید شده باشد.
حتی زمانی که واترمارک پیدا می‌شود، این نشانه فقط مشخص می‌کند که یک سامانه اوپن‌ای‌آی بخشی از یک متن را تولید یا پردازش کرده است و درباره میزان قضاوت انسانی یا خلاقیتی که در تولید آن به کار رفته، اطلاعاتی ارائه نمی‌دهد.
در عمل، این عرضه بر کاربران واجد شرایط چت‌جی‌پی‌تی و کدکس در اتحادیه اروپا، توسعه‌دهندگان سراسر جهان که تصمیم می‌گیرند این قابلیت را فعال کنند، و پژوهشگرانی که دسترسی به ابزار تشخیص دریافت می‌کنند، تأثیر خواهد گذاشت.
چه شرکت‌های دیگری این کار را انجام می‌دهند؟
اوپن‌ای‌آی نخستین شرکت هوش مصنوعی نیست که برای منشأ و قابلیت ردیابی محتوا اقدام کرده است، هرچند واترمارک‌گذاری متن دشوارترین حوزه در این زمینه محسوب می‌شود.
گوگل پیش‌تر واترمارک SynthID را در محتوای تولیدشده با ابزارهای خود برای متن، تصویر، صدا و ویدئو به کار گرفته است. اوپن‌ای‌آی نیز پیش از این تصاویر و صداها را با SynthID و اعتبارنامه‌های محتوا علامت‌گذاری کرده و یک ابزار عمومی برای تأیید این موارد در openai.com/verify ارائه کرده است.
متا از واترمارک Content Seal برای محتوای ساخته‌شده با ابزارهای خود استفاده می‌کند، در حالی که Copilot مایکروسافت و Firefly ادوبی هنگام ایجاد فایل، اعتبارنامه‌های محتوای C2PA را اضافه می‌کنند؛ استانداردی مبتنی بر فراداده که نحوه ساخته شدن یک فایل را ثبت می‌کند.
Anthropic در ماه اوت اعلام کرد که متن تولیدشده توسط Claude را در سراسر جهان واترمارک خواهد کرد؛ تصمیمی که با واکنش منفی برخی کاربران روبه‌رو شد، زیرا آن‌ها معتقد بودند دستورها، زمینه و تصمیم‌ها را خودشان ارائه می‌کنند و Claude صرفاً یک ابزار است.
Anthropic، گوگل، متا، مایکروسافت و اوپن‌ای‌آی از جمله شرکت‌هایی هستند که به آیین‌نامه اتحادیه اروپا درباره محتوای تولیدشده با هوش مصنوعی متعهد شده‌اند. با این حال، مدل‌های متن‌باز خارج از این همکاری‌های صنعتی همچنان می‌توانند محتوای بدون برچسب تولید کنند و ابزارهای تشخیص هر شرکت معمولاً فقط نشانه‌های همان شرکت را شناسایی می‌کنند.