کشف استفاده گسترده ChatGPT از داده‌های آماری جعلی منتشرشده در یک وب‌سایت
۲۱ اکتبر ۲۰۲۶، ساعت ۱۲:۵۳
پژوهشگرانی که در زمینه توسعه ابزارهای جست‌وجوی مبتنی بر هوش مصنوعی فعالیت می‌کنند، آزمایشی انجام دادند تا بررسی کنند آیا هوش مصنوعی محتوای وب‌سایتی را که حدود ۵۰ هزار صفحه داده آماری جعلی دارد، می‌خواند یا نه. نتایج نشان داد که هوش مصنوعی بارها به این وب‌سایت مراجعه کرده است و داده‌های ساختگی آن، با وجود جعلی بودن، در مقالات علمی و گزارش‌های خبری مورد استناد قرار گرفته‌اند.
متهان یشیل‌یورت، پژوهشگر هوش مصنوعی، هنگام بررسی تعاملات گسترده میان کاربران و سامانه‌های هوش مصنوعی متوجه شد که این سامانه‌ها برای پر کردن خلأهای دانشی خود تمایل دارند به دنبال «داده‌های آماری معتبر» بگردند. او برای بررسی اینکه هوش مصنوعی تا چه اندازه این اطلاعات را پردازش می‌کند، دامنه جدیدی با نام stateglobe.com خرید و در یک روز با استفاده از GPT-4.1، تعداد ۵۰ هزار صفحه حاوی داده‌های آماری تولید کرد.
این وب‌سایت مدعی است اطلاعات آماری مربوط به بهینه‌سازی موتورهای جست‌وجو (SEO)، بازاریابی محتوا، شبکه‌های اجتماعی و تجارت الکترونیک را در ۲۰۰ کشور ارائه می‌دهد؛ اما تمام ارقام آن ساختگی هستند و یشیل‌یورت به هیچ روشی صحت آن‌ها را بررسی نکرده است.
این وب‌سایت در ابتدا از نظر میزان بازدید و نمایه‌سازی در گوگل، یعنی فرایند ثبت صفحات در نتایج جست‌وجو، عملکرد خوبی داشت. با این حال، پس از به‌روزرسانی الگوریتم جست‌وجوی گوگل، میزان ترافیک آن به‌شدت کاهش یافت و تعداد دفعات نمایش سایت در نتایج جست‌وجو به تنها چند مورد تا چند ده مورد در روز رسید.
با این حال، یشیل‌یورت هفت ماه پس از راه‌اندازی سایت، نتایج را دوباره بررسی کرد و دریافت که بخش بزرگی از درخواست‌های دسترسی به آن از سوی ربات‌ها ارسال شده است، نه کاربران انسانی. تنها در ۳۰ روز گذشته بیش از ۶۰۰ هزار درخواست دسترسی ثبت شده بود که حدود ۷۲ هزار مورد از آن‌ها به عامل «ChatGPT-User» تعلق داشت؛ عاملی که ChatGPT برای پاسخ‌گویی به پرسش‌های کاربران از آن استفاده می‌کند.
حتی در زمان انتشار نتایج این آزمایش نیز تعداد مراجعه ربات‌ها همچنان رو به افزایش بود. طی هفت ماه، پیوندهایی به stateglobe.com در بیش از ۳۷۰ وب‌سایت منتشر شده بود. در میان این سایت‌ها، نام برندهای شناخته‌شده‌ای مانند شاپیفای نیز دیده می‌شد. یشیل‌یورت خاطرنشان کرد: «اگر سایت در نتایج جست‌وجوی گوگل عملکرد بهتری داشت، ممکن بود تعداد این ارجاع‌ها حتی بیشتر هم باشد.»
علاوه بر این، هنگامی که عملکرد سایت با استفاده از ابزاری برای ردیابی پرامپت‌های جست‌وجو بررسی شد، این وب‌سایت از نظر میزان دیده‌شدن داده‌ها در رتبه دوم قرار گرفت و از سایت‌های شناخته‌شده‌ای مانند Mordor Intelligence و Similarweb پیشی گرفت.
یشیل‌یورت توضیح داد: «وقتی ChatGPT جست‌وجو می‌کند، صرفاً ۱۰ نتیجه نخست گوگل را کپی نمی‌کند. این سامانه ورودی کاربر را به زیرپرسش‌های اختصاصی خود تبدیل می‌کند، پیشنهادها را از منابع جست‌وجو و حافظه‌های نهان بازیابی می‌کند، آن‌ها را دوباره رتبه‌بندی می‌کند و سپس برای پاسخ خود شواهد و توجیه ارائه می‌دهد.» او تأکید کرد که کسب رتبه بالا در جست‌وجوی گوگل و قرار گرفتن در دسترس هوش مصنوعی از طریق جست‌وجو، دو موضوع کاملاً متفاوت هستند.
یشیل‌یورت همچنین وب‌سایت دیگری راه‌اندازی کرد که در آن داده‌های آماری دقیق را همراه با ارجاع‌های روشن به منابع منتشر می‌کرد. او بار دیگر شاهد افزایش ترافیک ورودی از سوی هوش مصنوعی بود. وی افزود: «این موضوع ثابت می‌کند که استفاده از محتوای آماری روشی مؤثر برای جذب ترافیک از سوی هوش مصنوعی است.»
از وب‌سایت stateglobe.com در مقالات علمی استناد شده، از داده‌های آن در تحقیقات سرمایه‌گذاری بزرگ‌ترین گروه مالی قطر استفاده شده و یک مجله تجاری هندی نیز به آن ارجاع داده است. یشیل‌یورت می‌گوید: «اگر مواردی را هم در نظر بگیریم که در آن‌ها پیوند مستقیمی به منبع داده نشده، احتمالاً تعداد ارجاع‌ها بسیار بیشتر است.» او نگران است که با وجود غیرقابل‌اعتماد بودن کامل داده‌های این وب‌سایت، هر بار که یک نهاد معتبر به آن‌ها استناد می‌کند، اعتبار ظاهری این اطلاعات افزایش یابد.
یشیل‌یورت گفت: «از آنجا که هوش مصنوعی با محدودیت‌های جدی در زمینه زمان و هزینه پردازش روبه‌رو است، اساساً صحت اعداد را بررسی نمی‌کند. بررسی منابع باید بخش جدایی‌ناپذیر کار نویسندگان و پژوهشگران باشد.»
او در پایان افزود: «بدیهی است که نباید محتوای نادرست منتشر کرد.» به گفته او، این وب‌سایت صرفاً با هدف انجام این آزمایش ساخته شده و اکنون نیز در آن هشدار روشنی درج شده است که اعلام می‌کند داده‌های منتشرشده ساختگی هستند.