چت‌جی‌پی‌تی ۹۶ درصد خاطرات کاربران را بدون درخواست آن‌ها ثبت می‌کند؛ ذخیره اطلاعات شخصی حساس
نکات کلیدی
- پژوهشی به سرپرستی مؤسسه ماکس پلانک نشان داد چت‌جی‌پی‌تی ۹۶ درصد اطلاعات موجود در حافظه کاربران را بدون درخواست آن‌ها و به ابتکار خود ثبت کرده است.
- حدود ۲۸ درصد از موارد ذخیره‌شده حاوی اطلاعات شخصی مانند وضعیت سلامت و موقعیت مکانی بوده‌اند و ۵۲ درصد نیز ویژگی‌های روان‌شناختی کاربران را در بر می‌گرفته‌اند.
- این پژوهش نسخه عمومی چت‌جی‌پی‌تی را بررسی کرده است، نه نسخه امنیتی ChatGPT Mil که پنتاگون برای فعالیت‌های حساس در اختیار کارکنان خود قرار داده است.
بر اساس پژوهشی که در ماه فوریه منتشر شد، چت‌جی‌پی‌تی ۹۶ درصد اطلاعاتی را که در حافظه خود درباره کاربران نگه داشته، بدون درخواست مستقیم آن‌ها ثبت کرده است. این پژوهش را محققان مؤسسه ماکس پلانک برای سیستم‌های نرم‌افزاری در آلمان با همکاری پژوهشگران مؤسسات دیگر انجام داده‌اند. آن‌ها در این بررسی، ۲۰۵۰ مورد از اطلاعات ذخیره‌شده در حافظه چت‌جی‌پی‌تی را که ۸۰ نفر داوطلبانه در اختیارشان گذاشته بودند، تحلیل کردند.
یافته‌های پژوهشگران نشان می‌دهد اطلاعات ثبت‌شده در حافظه چت‌جی‌پی‌تی بسیار فراتر از ترجیحات اعلام‌شده کاربران بوده است. حدود ۲۸ درصد از این موارد شامل اطلاعات شخصی مانند وضعیت سلامت و موقعیت مکانی بوده‌اند و ۵۲ درصد نیز ویژگی‌های روان‌شناختی، از جمله احساسات، باورها و اهداف کاربران را در بر می‌گرفته‌اند.
سیستم حافظه چت‌جی‌پی‌تی چه اطلاعاتی را ذخیره کرده است؟
پژوهشگران به تاریخچه گفت‌وگوهای ۸۰ کاربر چت‌جی‌پی‌تی دسترسی پیدا کردند که این افراد بر اساس قوانین حفاظت از داده‌های اتحادیه اروپا درخواست دریافت اطلاعات خود را داده بودند. بررسی این داده‌ها نشان داد که در حافظه ۶۵ نفر از آن‌ها، در مجموع ۲۰۵۰ مورد اطلاعات ذخیره شده بود. تنها حدود ۴ درصد از این موارد در پی درخواست مستقیم کاربران برای به خاطر سپردن اطلاعات ثبت شده بودند و بقیه را خود سیستم ذخیره کرده بود.
بیشتر اطلاعات ثبت‌شده، یعنی ۸۴ درصد، مستقیماً به مطالبی مربوط می‌شد که کاربران در گفت‌وگوهای خود نوشته بودند. به گفته نویسندگان پژوهش، این موضوع نشان می‌دهد نمایه‌هایی که سیستم از کاربران ساخته، تا حد زیادی با محتوای مکالمات آن‌ها مطابقت داشته است. با این حال، بخشی از اطلاعات نیز بر اساس برداشت و استنباط سیستم ثبت شده بود. برای مثال، یکی از کاربران از چت‌جی‌پی‌تی خواسته بود گروه‌های موسیقی مشابه نیروانا را معرفی کند، اما سیستم در حافظه خود ثبت کرده بود که این کاربر به گروه نیروانا علاقه دارد؛ در حالی که او هرگز چنین علاقه‌ای را صریحاً بیان نکرده بود.
پژوهشگران این نمایه ساخته‌شده از کاربران را «خودنگاره الگوریتمی» نامیده‌اند. از زمان انجام این پژوهش، اوپن‌ای‌آی قابلیت حافظه چت‌جی‌پی‌تی را گسترش داده است. این شرکت در ماه ژوئن سیستم جدیدی معرفی کرد که اطلاعات گفت‌وگوهای گذشته را در قالب نمایه‌ای پویا از ترجیحات، اهداف و شرایط زندگی کاربر گردآوری می‌کند و به‌مرور آن را به‌روزرسانی می‌کند. اوپن‌ای‌آی همچنین اعلام کرده است که خلاصه حافظه نمایش‌داده‌شده به کاربر لزوماً تمام اطلاعاتی را که مدل نگه می‌دارد یا از آن‌ها استفاده می‌کند، نشان نمی‌دهد.
نسخه عمومی چت‌جی‌پی‌تی؛ ابزاری که ارتش آمریکا استفاده از آن را محدود کرده است
دسته‌های اطلاعاتی که این پژوهش شناسایی کرده، از جمله موقعیت مکانی، وضعیت سلامت و شرایط روانی افراد، همان داده‌هایی هستند که مسئولان امنیتی هنگام استفاده کارکنان از ابزارهای تجاری هوش مصنوعی، حساس تلقی می‌کنند. به همین دلیل، وزارت جنگ آمریکا کارکنان خود را به استفاده از یک نسخه جایگزین با نظارت و کنترل امنیتی هدایت کرده است.
این وزارتخانه در ۳۱ اوت، نسخه ChatGPT Mil را در بستر GenAI.mil راه‌اندازی کرد. این نسخه که برای استفاده حدود سه میلیون نفر از کارکنان طراحی شده، مجوز پردازش اطلاعات طبقه‌بندی‌نشده اما تحت کنترل را دارد. داده‌هایی که کاربران وارد این سامانه می‌کنند، در زیرساخت ابری دولتی باقی می‌مانند و برای آموزش مدل‌های تجاری اوپن‌ای‌آی استفاده نمی‌شوند. نسخه عمومی چت‌جی‌پی‌تی که موضوع پژوهش بوده، از هیچ‌یک از این تدابیر حفاظتی برخوردار نیست.
دستورالعمل‌های موقت پنتاگون نیز بار دیگر تأکید کرده‌اند که مقررات مربوط به امنیت عملیات و حفاظت از اطلاعات تحت کنترل، هنگام استفاده از هوش مصنوعی مولد همچنان لازم‌الاجرا هستند. همچنین به شاخه‌های مختلف نیروهای مسلح دستور داده شده است محدودیت‌های سخت‌گیرانه‌تری متناسب با شرایط خود تعیین کنند.
در بخش تجاری، اوپن‌ای‌آی از اوایل سال جاری نمایش تبلیغات در چت‌جی‌پی‌تی را آغاز کرده است. این شرکت می‌گوید در صورتی که کاربر قابلیت شخصی‌سازی را فعال کند، ممکن است از گفت‌وگوهای گذشته و اطلاعات حافظه برای هدفمند کردن تبلیغات استفاده شود. با این حال، اوپن‌ای‌آی تأکید دارد که تبلیغ‌دهندگان به مکالمات یا اطلاعات ذخیره‌شده در حافظه کاربران دسترسی ندارند. آبیشک دش، نویسنده اصلی پژوهش، در گفت‌وگو با نشریه گیزمودو توضیح داده است که وقتی یک سیستم هم‌زمان نقش مشاور، پزشک و وکیل را برای افراد ایفا می‌کند، در نهایت اطلاعات مربوط به تقریباً تمام جنبه‌های زندگی آن‌ها را در اختیار خواهد داشت. به گفته او، تمرکز چنین حجم گسترده‌ای از اطلاعات در یک سیستم، خطرات خاص خود را به همراه دارد.
چت‌جی‌پی‌تی به کاربران امکان می‌دهد قابلیت حافظه را غیرفعال کنند، خلاصه اطلاعات ذخیره‌شده را ویرایش کنند یا از حالت گفت‌وگوی موقت استفاده کنند. کاربران همچنین می‌توانند به‌طور جداگانه مانع استفاده از داده‌های خود برای آموزش مدل‌ها شوند. با این حال، اوپن‌ای‌آی می‌گوید حذف یک مکالمه لزوماً به معنای پاک شدن اطلاعاتی نیست که سیستم از آن مکالمه در حافظه خود ثبت کرده است. نویسندگان پژوهش برای کاهش خطر شناسایی کاربران، راهکاری با عنوان «سپر انتساب» پیشنهاد کرده‌اند که در آن پرسش‌ها به‌گونه‌ای بازنویسی می‌شوند که جزئیات هویتی و اطلاعات قابل شناسایی از آن‌ها حذف شود. البته پژوهشگران تأکید کرده‌اند که هنوز مشخص نیست این روش در گفت‌وگوهای طولانی‌مدت تا چه اندازه مؤثر خواهد بود.
منابع
- arXiv، دش و همکاران، «خودنگاره الگوریتمی: واکاوی حافظه در چت‌جی‌پی‌تی»، فوریه ۲۰۲۶.
- Defense One، پاتریک تاکر، «ارتش آمریکا امروز نسخه اختصاصی چت‌جی‌پی‌تی خود را دریافت می‌کند»، ۳۱ اوت ۲۰۲۶.
- DefenseScoop، برندی وینسنت، «دستورالعمل موقت جدید وزارت دفاع آمریکا خطرات هوش مصنوعی مولد را بررسی می‌کند»، ۹ نوامبر ۲۰۲۳.
- Gizmodo، اجه ییلدیریم، «چت‌بات‌های هوش مصنوعی در حال ساخت یک خودنگاره الگوریتمی از شما هستند»، ۲۲ اکتبر ۲۰۲۶.
- وزارت جنگ ایالات متحده آمریکا، «وزارت جنگ نسخه ChatGPT Mil شرکت اوپن‌ای‌آی را در بستر GenAI.mil راه‌اندازی کرد»، ۳۱ اوت ۲۰۲۶.