پژوهشگران هشدار می‌دهند: چت‌جی‌پی‌تی بدون آگاهی کاربران، پرونده‌های شخصی از آن‌ها می‌سازد
بررسی نحوه مدیریت اطلاعات شخصی در چت‌جی‌پی‌تی
به گزارش ان‌وی ـ تک‌نو، گروهی از پژوهشگران مؤسسه‌های ماکس پلانک و چند دانشگاه دیگر آلمان دریافته‌اند که چت‌جی‌پی‌تی با جمع‌آوری و به‌روزرسانی اطلاعات در حافظه خود، پرونده‌های شخصی مفصلی از کاربران تشکیل می‌دهد؛ آن هم بدون کسب اجازه صریح از آن‌ها. پژوهشگران با بررسی سوابق گفت‌وگوی ۸۰ کاربر، در میان ۶۵ نفر از آن‌ها ۲٬۰۵۰ مورد ثبت اطلاعات در حافظه را شناسایی کردند. نکته نگران‌کننده این بود که در ۹۶ درصد این موارد، چت‌جی‌پی‌تی اطلاعات را بدون آگاهی کاربران ثبت کرده یا تغییر داده بود. بیش از نیمی از این اطلاعات، یعنی ۵۲ درصد، به موضوعات حساس روان‌شناختی مانند خواسته‌ها، قصدها، احساسات و باورهای افراد مربوط می‌شد.
ارتباط شخصی‌سازی تبلیغات با قابلیت حافظه چت‌بات
از فوریه ۲۰۲۴، شرکت اوپن‌ای‌آی تبلیغات را در چت‌جی‌پی‌تی معرفی کرده است که بر اساس گفت‌وگوهای قبلی و اطلاعات ذخیره‌شده در حافظه شخصی‌سازی می‌شوند؛ البته این کار تنها با رضایت کاربر انجام می‌شود. در ژوئن ۲۰۲۴، اوپن‌ای‌آی قابلیت حافظه چت‌جی‌پی‌تی را توسعه داد تا این سامانه بتواند تعاملات گذشته را خلاصه کند و بر اساس ترجیحات، اهداف و شرایط زندگی کاربران، تصویری از آن‌ها در حافظه نگه دارد. شرکت‌کنندگان در این پژوهش، نسخه‌ای از داده‌های خود را مطابق با مقررات حریم خصوصی اروپا دریافت کردند.
کاربران می‌توانند قابلیت حافظه را غیرفعال کنند یا مانع استفاده از گفت‌وگوهایشان برای آموزش مدل‌ها شوند. بااین‌حال، حذف تاریخچه چت‌ها لزوماً به این معنا نیست که چت‌بات اطلاعات به‌دست‌آمده را فراموش می‌کند. برای نمونه، اطلاعات مربوط به سلامت که کاربران در گفت‌وگوها مطرح می‌کنند، ممکن است بر توصیه‌های مالی ارائه‌شده از سوی هوش مصنوعی تأثیر بگذارد.
آبیشک داش، یکی از پژوهشگران این مطالعه، گفت: «مردم بخش بزرگی از تلاش ذهنی خود را به این سامانه‌های مکالمه‌ای واگذار می‌کنند؛ شاید لازم باشد بخشی از این بار ذهنی را دوباره خود کاربران بر عهده بگیرند.»
لوری کرانور نیز بر تفاوت میان گفت‌وگو با انسان‌ها و تعامل با سامانه‌های هوش مصنوعی تأکید کرد و گفت: «تفاوت در این است که یک غریبه به‌ندرت گفت‌وگو را ثبت می‌کند؛ ممکن است گاهی چنین اتفاقی بیفتد، اما بسیار نادر است. در مقابل، سامانه‌های هوش مصنوعی این تعاملات را به‌صورت نظام‌مند ثبت می‌کنند.» کارشناسان درباره خطرات ناشی از ذخیره‌سازی و استفاده از داده‌های شخصی در چت‌بات‌ها هشدار می‌دهند و بر ضرورت اتخاذ تدابیر حفاظتی برای حفظ حریم خصوصی تأکید دارند. از جمله پیشنهادهای آن‌ها این است که توسعه‌دهندگان پیش از ذخیره اطلاعات کاربران، رضایت صریح آن‌ها را دریافت کنند.
این یافته‌ها بر ضرورت آگاهی کامل کاربران از خطرات مربوط به حریم خصوصی هنگام استفاده از چت‌بات‌ها، به‌ویژه در زمینه مدیریت اطلاعات شخصی، تأکید می‌کنند. با افزایش توجه عمومی به حفاظت از داده‌ها، شرکت‌ها باید میان نوآوری و صیانت از حریم خصوصی کاربران تعادل برقرار کنند تا از پیامدهای احتمالی حقوقی و اخلاقی جلوگیری شود.