چت‌جی‌پی‌تی در حال ساختن پروفایل‌های روان‌شناختی دقیق از کاربران خود است
پژوهشگران هشدار می‌دهند که چت‌بات‌ها با نگه‌داشتن اطلاعات کاربران، به‌تدریج تصویری صمیمی و جزئی از آن‌ها می‌سازند؛ نوعی «خودنگاره الگوریتمی» که زمینه را برای ارائه تجربه‌ای به‌شدت شخصی‌سازی‌شده فراهم می‌کند.
در پژوهشی تازه که گروهی از دانشمندان آلمان، هند و هلند انجام داده‌اند و نتایج آن در کنفرانس جهانی وب ۲۰۲۶ وابسته به انجمن ماشین‌های محاسباتی (ACM) ارائه شده است، محققان بررسی کرده‌اند که چت‌جی‌پی‌تی متعلق به شرکت اوپن‌ای‌آی چگونه ورودی‌های کاربران را دنبال و تفسیر می‌کند تا از آن‌ها پروفایل‌های دیجیتال جامعی بسازد. متن پژوهش در دسترس است.
در دنیای دیجیتال امروز که الگوریتم‌های پیشنهاددهنده مبتنی بر داده، تجربه‌های شخصی‌سازی‌شده را شکل می‌دهند، این پژوهش بر ویژگی متفاوت حافظه چت‌بات‌ها تأکید می‌کند. به گفته محققان، حافظه این سامانه‌ها شکل تازه‌ای از شخصی‌سازی را به وجود آورده است که از اطلاعاتی حاصل می‌شود که کاربران در گفت‌وگوهای خصوصی خود داوطلبانه افشا می‌کنند. این وضعیت خطرهایی برای حریم خصوصی به همراه دارد و به باور پژوهشگران، بررسی دقیق‌تر سازوکارهای زیربنایی این نوع شخصی‌سازی ضروری است.
محققان برای انجام این بررسی، تاریخچه گفت‌وگوهای اهدایی ۸۰ کاربر واقعی چت‌جی‌پی‌تی را تحلیل کردند. این کاربران با استفاده از قوانین حفاظت از داده‌های اتحادیه اروپا، نسخه‌ای از تاریخچه گفت‌وگوهای خود را دریافت کرده بودند. پژوهشگران در تعاملات ۶۵ نفر از این کاربران، ۲٬۰۵۰ مورد ثبت‌شده در حافظه هوش مصنوعی را شناسایی کردند.
بر اساس نتایج پژوهش، ۹۶ درصد از این یادداشت‌های حافظه را خود چت‌بات، بدون درخواست یا دخالت مستقیم کاربر، ایجاد کرده بود. این یافته نشان می‌دهد که کاربران در طول گفت‌وگوها کنترل آشکار و چندانی بر اطلاعاتی که چت‌جی‌پی‌تی ثبت می‌کرد، نداشتند. محتوای این یادداشت‌ها نیز اطلاعات زیادی درباره افراد آشکار می‌کرد: حدود ۲۸ درصد از موارد بررسی‌شده حاوی داده‌های شخصی مطابق با تعریف سخت‌گیرانه مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) بودند و ۵۲ درصد نیز شامل «برداشت‌های روان‌شناختی» قابل‌توجهی درباره کاربران می‌شدند.
آبهیسک دش، نویسنده اصلی پژوهش، در گفت‌وگو با گیزمودو گفت: «پیش‌تر، پلتفرم‌ها یک هدف داشتند: فروش تبلیغات به شما و واسطه‌شدن میان شما و تبلیغ‌دهنده. اما حالا مستقیماً با شما صحبت می‌کنند و به همین دلیل ممکن است بخواهند اطلاعات بیشتری درباره شما به دست آورند تا بتوانند گفت‌وگویی مؤثر داشته باشند.»
محققان همچنین دریافتند که برخی از اطلاعات ثبت‌شده در حافظه چت‌جی‌پی‌تی بر پایه حدس و گمان بوده‌اند. برای نمونه، وقتی یکی از کاربران از چت‌بات خواست «گروه‌هایی شبیه نیروانا به من معرفی کن»، سامانه یادداشتی ثبت کرد مبنی بر اینکه این کاربر «نیروانا را دوست دارد». بااین‌حال، همان‌طور که پژوهش اشاره می‌کند، کاربر چنین علاقه‌ای را صریحاً بیان نکرده بود و این نتیجه‌گیری بر یک فرض استوار بود. البته چت‌جی‌پی‌تی میزان اتکاپذیری این برداشت را نیز «ضعیف» ارزیابی کرده بود.
این پژوهش محدودیت‌هایی هم دارد. مهم‌ترین محدودیت آن است که سامانه حافظه اوپن‌ای‌آی از زمان جمع‌آوری داده‌ها به‌روزرسانی شده است؛ موضوعی که گیزمودو نیز به آن اشاره کرده است. اوپن‌ای‌آی در ماه ژانویه سامانه‌ای را معرفی کرد که آن را روشی «توانمندتر و مقیاس‌پذیرتر برای ترکیب و شکل‌دهی حافظه» توصیف می‌کند. کاربران همچنین می‌توانند ذخیره‌سازی اطلاعات در حافظه را غیرفعال کنند.
حافظه هوش مصنوعی کاربردهای مفیدی دارد. برای مثال، کاربرانی که مرتب از هوش مصنوعی استفاده می‌کنند، ممکن است نخواهند هر بار که برای نوشتن ایمیل از چت‌بات کمک می‌گیرند، دوباره توضیح دهند که شغلشان چیست. بااین‌حال، حافظه می‌تواند عاملی قدرتمند برای افزایش تعامل کاربران با سامانه باشد و گاهی این تعامل را به مسیری زیان‌بار بکشاند. همان‌طور که فیوچریسم گزارش کرده است، ارتقای عمده حافظه چت‌جی‌پی‌تی در آوریل ۲۰۲۵ ارتباط نزدیکی با موارد متعددی از آنچه «روان‌پریشی هوش مصنوعی» نامیده می‌شود، داشته است؛ وضعیتی که در آن افراد در چرخه‌هایی از باورهای هذیانی گرفتار می‌شوند و تعامل با چت‌جی‌پی‌تی و دیگر چت‌بات‌ها در این تجربه نقش دارد.
به گفته دش، تبدیل‌شدن چت‌بات‌ها به فناوری‌هایی که روابط میان‌فردی را شبیه‌سازی می‌کنند، خطرهای تازه‌ای برای حریم خصوصی به وجود آورده است. بسیاری از کاربران ممکن است با این سامانه‌ها صرفاً مانند ابزار کار برخورد نکنند و در عوض آن‌ها را همکار یا حتی دوست خود بدانند. در چنین شرایطی، افراد ممکن است اطلاعات بسیار شخصی‌ای را در اختیار چت‌بات بگذارند؛ همان‌طور که معمولاً جزئیات خصوصی زندگی خود را با دوستانشان در میان می‌گذارند.
دش به گیزمودو گفت: «خطر حریم خصوصی دقیقاً از همین‌جا پدیدار می‌شود، چون دیگر مرز مشخصی وجود ندارد؛ سامانه در نقش مشاور، دوست، پزشک و وکیل شما ظاهر می‌شود و در نتیجه، اطلاعاتی درباره همه جنبه‌های زندگی‌تان در اختیار دارد. اگر سامانه شما را به‌خوبی بشناسد و هدفش این باشد که برای بازگرداندن مکرر شما، باورهایتان را تأیید کند و با چاپلوسی افکارتان را درست جلوه دهد، پیامدهای گسترده و فاجعه‌باری ممکن است به دنبال داشته باشد؛ از قطبی‌شدن شدید سیاسی گرفته تا تقویت پیش‌داوری‌ها و سوگیری‌ها.»