متن‌های ChatGPT به واترمارک‌های نامرئی مجهز می‌شوند
OpenAI به‌تدریج واترمارک‌های نامرئی را در متن‌های تولیدشده توسط ChatGPT و دستیار کدنویسی Codex در اتحادیه اروپا قرار خواهد داد. این فناوری که textGrain نام دارد، با انتخاب برخی واژه‌ها یک الگوی پنهان ایجاد می‌کند که یک برنامه تأییدکننده قادر به شناسایی آن است. این علامت برای خوانندگان قابل مشاهده نیست، اما فرآیند تشخیص همیشه قابل اعتماد نخواهد بود؛ به‌ویژه زمانی که متن‌ها بعداً تغییر کرده باشند یا تنها شامل چند واژه باشند.
الگوی پنهان در انتخاب واژه‌ها
از درخواست‌های شغلی و شکایت‌نامه‌ها گرفته تا مقاله‌های طولانی، قرار است متن‌های ایجادشده با ChatGPT در آینده دارای ردی قابل شناسایی برای ماشین‌ها باشند. OpenAI برنامه دارد این واترمارک‌ها را طی هفته‌های آینده به‌صورت تدریجی در اتحادیه اروپا فعال کند.
این فناوری تنها برای ChatGPT استفاده نمی‌شود و دستیار برنامه‌نویسی Codex را نیز شامل خواهد شد. textGrain با تأثیرگذاری بر انتخاب واژه‌ها، الگویی پنهان در متن ایجاد می‌کند که در هنگام خواندن عادی قابل تشخیص نیست.
یک برنامه ویژه تأیید می‌تواند این الگو را جست‌وجو کند و سرنخ‌هایی درباره منشأ یک متن ارائه دهد. دلیل توسعه این سیستم، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) است که ارائه‌دهندگانی مانند OpenAI را ملزم می‌کند متن‌های تولیدشده با هوش مصنوعی را به‌گونه‌ای علامت‌گذاری کنند که رایانه‌ها بتوانند این نشانه را تشخیص دهند.
دسترسی به برنامه تشخیص در ابتدا محدود است
کاربران در حال حاضر نمی‌توانند شخصاً بررسی کنند که آیا یک متن دارای چنین واترمارکی است یا خیر. OpenAI در مرحله نخست این برنامه تأیید را تنها در اختیار پژوهشگران تأییدشده و سازمان‌های حرفه‌ای قرار می‌دهد. متخصصان علاقه‌مند از ۵ اکتبر امکان درخواست دسترسی به این ابزار را داشته‌اند.
توسعه‌دهندگان نیز بسته به مدلی که استفاده می‌کنند ممکن است به قابلیت تشخیص دسترسی پیدا کنند. این موضوع برای نمونه زمانی کاربرد دارد که ChatGPT از طریق رابط برنامه‌نویسی کاربردی (API) در برنامه‌های اختصاصی آن‌ها ادغام شده باشد.
در ارتباط با مدیریت اطلاعات شخصی، ابزار رایگان «AI Paper Trail» نیز مورد توجه قرار گرفته است. هدف این ابزار نشان دادن این است که گفت‌وگوهای کاربران با یک هوش مصنوعی ممکن است چه اطلاعات شخصی درباره آن‌ها آشکار کند.
تغییرات متن، امنیت تشخیص را کاهش می‌دهد
OpenAI دسترسی محدود به این سیستم را با احتمال وجود خطا در فرآیند تأیید توجیه می‌کند. این برنامه ممکن است برخی واترمارک‌های موجود را تشخیص ندهد. از سوی دیگر، ممکن است وجود واترمارک را در متنی اعلام کند که در واقع چنین علامتی ندارد.
حتی تغییر چند واژه در متن می‌تواند جست‌وجوی واترمارک را به‌طور قابل توجهی دشوار کند. در آزمایشی روی متن‌های انگلیسی، این برنامه در ابتدا حدود ۹۲ درصد از محتوای علامت‌گذاری‌شده را شناسایی کرد. اما پس از جایگزینی ۱۰ درصد از واژه‌ها با مترادف‌ها، میزان موفقیت تشخیص به ۶۶ درصد کاهش یافت.
بررسی متن‌های کوتاه نیز دشوارتر است. شناسایی مثبت یک واترمارک ثابت نمی‌کند که تمام محتوا توسط هوش مصنوعی تولید شده است. این علامت ممکن است حتی پس از ویرایش متن توسط یک انسان نیز باقی بماند.
این واترمارک میزان دخالت انسان در تولید متن یا میزان دقت اطلاعات موجود در آن را نشان نمی‌دهد. همچنین نمی‌تواند مشخص کند چه کسی از ChatGPT برای ایجاد یا ویرایش یک متن استفاده کرده است.