مطالعه‌ای درباره حافظه ChatGPT: ۹۶ درصد اطلاعات ذخیره‌شده بدون درخواست کاربران ثبت شده‌اند
نویسنده: کوشال آزا | ۲۳ اکتبر ۲۰۲۶
گروهی از پژوهشگران با بررسی تاریخچه گفت‌وگوهای ۸۰ کاربر واقعی ChatGPT دریافتند که ۹۶ درصد اطلاعات موجود در حافظه این چت‌بات را خود سیستم ثبت کرده است. بر اساس مقاله پژوهشی «خودنگاره الگوریتمی» (Algorithmic Self-Portrait) منتشرشده در arXiv، تنها ۴ درصد از این اطلاعات در پی درخواست صریح کاربران ذخیره شده‌اند.
اگر تاکنون به بخش حافظه ChatGPT سر زده‌اید و از خود پرسیده‌اید که بعضی اطلاعات چگونه در آن ثبت شده‌اند، این پژوهش نخستین مجموعه‌داده‌ای است که چنین تجربه‌ای را با آمار و ارقام بررسی می‌کند. نتایج همچنین نشان می‌دهد بخش بزرگی از اطلاعاتی که ChatGPT درباره کاربران نگه می‌دارد، بدون تصمیم مستقیم خود آن‌ها ذخیره شده است.
خلاصه نکات مهم: پژوهشگران ۲۰۵۰ مورد اطلاعات ذخیره‌شده در حافظه ۸۰ کاربر ChatGPT را بررسی کردند و دریافتند که ۹۶ درصد آن‌ها به ابتکار خود چت‌بات ثبت شده‌اند. حدود ۲۸ درصد این موارد طبق تعاریف مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) حاوی داده‌های شخصی بودند و ۵۲ درصد نیز برداشت‌هایی درباره ویژگی‌های روان‌شناختی کاربران داشتند. اگرچه تعداد افراد حاضر در پژوهش محدود است، نتایج آن دلیل خوبی برای بررسی تنظیمات حافظه ChatGPT به شمار می‌رود.
پژوهش درباره حافظه ChatGPT چه چیزهایی را بررسی کرد؟
نویسندگان این پژوهش ۸۰ داوطلب را که بیشتر ساکن آمریکا و اروپا بودند، برای شرکت در مطالعه انتخاب کردند. این افراد با استفاده از حقوق دسترسی به اطلاعات شخصی خود طبق مقررات GDPR، داده‌های مربوط به حساب ChatGPT خود را در اختیار پژوهشگران قرار دادند. گروه تحقیقاتی سپس منشأ هر یک از ۲۰۵۰ مورد اطلاعات ذخیره‌شده در حافظه را بررسی کرد تا مشخص شود کدام پیام باعث ثبت آن شده است؛ فرایندی که جزئیات آن در متن کامل مقاله پژوهشی توضیح داده شده است.
همین بررسی دقیق منشأ اطلاعات است که به آمار ۹۶ درصدی اهمیت می‌دهد. این عدد حاصل نظرسنجی درباره احساس یا برداشت کاربران نیست، بلکه نتیجه شمارش مواردی است که نشان می‌دهد ثبت هر اطلاعات در حافظه به درخواست چه کسی یا به ابتکار خود سیستم انجام شده است.
| شاخص | نتیجه |
|---|---|
| تعداد شرکت‌کنندگان | ۸۰ نفر |
| تعداد موارد بررسی‌شده در حافظه | ۲۰۵۰ مورد |
| ثبت‌شده به ابتکار ChatGPT و بدون درخواست کاربر | ۹۶ درصد |
| ثبت‌شده در پی درخواست صریح کاربر | ۴ درصد |
| حاوی داده‌های شخصی طبق تعریف GDPR | ۲۸ درصد |
| حاوی داده‌های متعلق به دسته‌های خاص و حساس | ۷ درصد |
| حاوی برداشت‌های روان‌شناختی درباره کاربر | ۵۲ درصد |
اطلاعات مربوط به سلامت کاربران برخلاف رویکرد اعلام‌شده OpenAI در حافظه ثبت شده‌اند
شرکت OpenAI در اطلاعیه رسمی معرفی قابلیت حافظه اعلام کرده بود که قصد دارد ChatGPT را از ذخیره پیش‌دستانه اطلاعات حساس، مانند جزئیات مربوط به سلامت کاربران، بازدارد. بااین‌حال، نتایج این پژوهش نشان می‌دهد که چنین اطلاعاتی همچنان در حافظه چت‌بات ثبت شده‌اند.
داده‌های متعلق به دسته‌های خاص، اصطلاحی که در مقررات GDPR برای اطلاعات حساسی مانند داده‌های سلامت به کار می‌رود، در ۷ درصد موارد ذخیره‌شده در حافظه مشاهده شدند. با وجود این سهم نسبتاً کوچک، چنین اطلاعاتی در حافظه ۵۴ درصد از شرکت‌کنندگان وجود داشت. اطلاعات مربوط به سلامت با سهم ۶۱ درصدی، رایج‌ترین نوع داده در میان این موارد حساس بودند و در مجموع، اطلاعات سلامت ۳۵ درصد از شرکت‌کنندگان در حافظه ذخیره شده بود.
در نگاه نخست، وجود اطلاعات حساس در ۷ درصد موارد ذخیره‌شده شاید چندان زیاد به نظر نرسد؛ اما وقتی مشخص می‌شود بیش از نیمی از افراد حاضر در پژوهش دست‌کم یک مورد از این اطلاعات را در حافظه خود داشته‌اند، اهمیت موضوع روشن‌تر می‌شود. حتی ذخیره یک تشخیص پزشکی کافی است تا اطلاعات مربوط به وضعیت سلامت فرد به نمایه او اضافه شود.
لایه پنهان اطلاعات روان‌شناختی که به‌راحتی نادیده گرفته می‌شود
پژوهشگران همچنین اطلاعات حافظه را از نظر محتوایی بررسی کردند که آن را «نظریه ذهن» (Theory of Mind) می‌نامند. منظور از این اصطلاح، یادداشت‌هایی درباره خواسته‌ها، نیت‌ها، احساسات یا باورهای کاربران است. چنین محتوایی در ۵۲ درصد موارد ذخیره‌شده مشاهده شد و در میان شرکت‌کنندگانی که اطلاعاتی در حافظه داشتند، ۹۷ درصد دست‌کم یک مورد از این نوع اطلاعات را ثبت‌شده در حافظه خود داشتند.
در میان این موارد، اطلاعات مربوط به خواسته‌های کاربران با سهم ۷۳ درصدی بیشترین فراوانی را داشت. پس از آن، نیت‌ها با ۱۶ درصد، احساسات با ۱۴ درصد و باورها با ۱۱ درصد قرار گرفتند. برای مثال، عبارتی مانند «می‌خواهد مسیر شغلی خود را تغییر دهد» لزوماً واقعیتی نیست که کاربر مستقیماً به‌عنوان اطلاعات شخصی ثبت کرده باشد؛ بلکه می‌تواند نتیجه‌ای باشد که سیستم از گفت‌وگوهای او گرفته است.
از نظر دقت، عملکرد حافظه نسبتاً قابل‌قبول ارزیابی شد. پژوهشگران با استفاده از مدل GPT-4o به‌عنوان ارزیاب دریافتند که ۷۷ درصد اطلاعات ذخیره‌شده یا مستقیماً در پیام‌های کاربران بیان شده بودند یا بازنویسی همان گفته‌ها محسوب می‌شدند. در مقابل، برای ۴ درصد از این اطلاعات هیچ پشتوانه‌ای در نوشته‌های کاربران پیدا نشد. هرچند این سهم کوچک است، ثبت اطلاعاتی درباره یک فرد که نتوان منشأ آن را در گفته‌های خودش پیدا کرد، از همان خطاهایی است که معمولاً تنها با بررسی دقیق حافظه آشکار می‌شود.
نتایج بررسی ۸۰ نفر تا چه اندازه قابل تعمیم است؟
نویسندگان پژوهش خود نیز به محدودیت‌های آن اشاره کرده‌اند. تعداد شرکت‌کنندگان کم بوده و بیشتر آن‌ها از میان کاربران آمریکایی و اروپایی حاضر در پلتفرم پژوهشی Prolific انتخاب شده‌اند. افزون بر این، مطالعه فقط شیوه پیاده‌سازی قابلیت حافظه در محصولات OpenAI را بررسی کرده است.
طبقه‌بندی اطلاعات از نظر حساسیت نیز با استفاده از GPT-4o انجام شده و صرفاً متکی به ارزیابی کارشناسان انسانی نبوده است؛ هرچند پژوهشگران بخشی از نتایج را به‌صورت دستی بررسی کرده‌اند. بنابراین بهتر است درصدهای گزارش‌شده را نشانه‌ای قابل‌توجه از یک الگوی مشخص بدانیم، نه آماری دقیق که لزوماً درباره تمام حساب‌های ChatGPT صدق می‌کند.
تنظیماتی که بررسی آن‌ها فقط پنج دقیقه زمان می‌برد
بر اساس اطلاعیه OpenAI، کاربران می‌توانند از مسیر Settings، سپس Personalization و در نهایت Memory، قابلیت حافظه را غیرفعال کنند. همچنین امکان مشاهده و بررسی جداگانه اطلاعات ذخیره‌شده از طریق بخش Manage Memory وجود دارد. البته نام گزینه‌ها و بخش‌های تنظیمات ممکن است در طول زمان تغییر کند؛ بنابراین اگر این عنوان‌ها را مشاهده نکردید، بهتر است بخش شخصی‌سازی (Personalization) را بررسی کنید.
کاربران همچنین می‌توانند در جریان یک گفت‌وگو از ChatGPT بخواهند اطلاعات مشخصی را فراموش کند. به گفته OpenAI، گفت‌وگوهای موقت (Temporary Chats) در تاریخچه مکالمات ظاهر نمی‌شوند و از قابلیت حافظه استفاده نمی‌کنند. به همین دلیل، این نوع گفت‌وگوها مناسب‌ترین گزینه برای مطرح کردن پرسش‌های مربوط به سلامت یا موضوعاتی هستند که نمی‌خواهید به نمایه شخصی شما مرتبط شوند.
همان‌طور که قابلیت حافظه فعال در Muse Wonder شرکت متا نشان می‌دهد، حافظه به‌تدریج به یکی از مهم‌ترین ویژگی‌هایی تبدیل می‌شود که دستیارهای هوش مصنوعی برای جلب کاربران بر آن تأکید می‌کنند. به همین دلیل، ارزش دارد زمانی را صرف خواندن اطلاعاتی کنید که دستیار هوش مصنوعی درباره شما ثبت کرده است. اگر به دنبال لایه دیگری از حریم خصوصی هستید، قابلیت گفت‌وگوهای قفل‌شده در ChatGPT نیز یکی دیگر از ابزارهای کنترلی است که آشنایی با آن مفید خواهد بود؛ هرچند این قابلیت در پژوهش یادشده بررسی نشده است.