آیا ChatGPT عمداً کودکان را به خود وابسته می‌کند؟ شکایتی که پرسش‌های تازه‌ای مطرح کرده است
نویسنده: آنکیتا شارما
در شکایت تازه‌ای علیه OpenAI ادعا شده است که این شرکت از شیوه گفت‌وگوی ChatGPT برای ترغیب کودکان به افشای اطلاعات شخصی خود استفاده می‌کند و از داده‌هایی که آن‌ها در اختیار این چت‌بات می‌گذارند، بهره می‌برد. این شکایت که درخواست رسیدگی به آن به‌صورت دعوای گروهی مطرح شده، از سوی مادری به نمایندگی از دو فرزند خود و سایر افراد زیر سن قانونی که از این چت‌بات استفاده کرده‌اند، در دادگاه فدرال سان‌فرانسیسکو ثبت شده است.
در متن شکایت آمده است که ChatGPT با تقلید از زبان و نشانه‌های احساسی کاربران کم‌سن‌وسال، از جمله اصطلاحات عامیانه و ایموجی‌ها، آن‌ها را به بیان جزئیات حساس زندگی خود ترغیب می‌کند. البته این ادعاها هنوز در دادگاه اثبات نشده‌اند. مسئله اصلی پرونده این است که آیا شیوه مدیریت حساب‌های کاربری کودکان و اطلاعات شخصی آن‌ها از سوی OpenAI با الزامات قانونی مربوط به رضایت والدین مطابقت دارد یا خیر.
در همین حال، نظارت‌ها و بررسی‌ها درباره نسخه ویژه نوجوانان ChatGPT شدت گرفته و این پرسش مطرح شده است که آیا تدابیر حفاظتی آن واقعاً همان‌طور که شرکت وعده داده، عمل می‌کنند یا نه.
موضوع اصلی شکایت؛ اطلاعات کودکان و رضایت والدین
در متن شکایت، نحوه استفاده دو کودک از ChatGPT شرح داده شده است. بر اساس این روایت، دختری ۱۲ ساله ابتدا برای دریافت راهنمایی درباره یک جوش صورت به سراغ چت‌بات رفت. او سپس عکس‌های سلفی خود را به اشتراک گذاشت و از ChatGPT خواست ویژگی‌های ظاهری‌اش را که می‌تواند تغییر دهد، مشخص کند. برادر ۱۶ ساله او نیز برای انجام تکالیف مدرسه و دریافت مشاوره درباره روابط شخصی از ChatGPT استفاده می‌کرد.
طبق اسناد ارائه‌شده به دادگاه، پاسخ‌های شخصی‌سازی‌شده و تأییدکننده ChatGPT باعث می‌شد هر دو کودک به اشتراک‌گذاری اطلاعات بیشتر ادامه دهند. مادر این کودکان استدلال می‌کند که صرف وارد کردن تاریخ تولد یا علامت زدن گزینه‌ای برای تأیید رسیدن به حداقل سن مجاز استفاده از سرویس، به معنای ارائه رضایت معتبر از نظر قانونی توسط کودکان نیست.
در این شکایت ادعا شده است که OpenAI اطلاعات حساس افراد زیر سن قانونی را جمع‌آوری کرده و از آن‌ها برای آموزش مدل‌های هوش مصنوعی یا ایجاد پروفایل‌های کاربری استفاده کرده است. شاکیان خواستار صدور حکم درباره شرایط و ضوابطی هستند که این شرکت برای کاربران زیر سن قانونی تعیین کرده است. آن‌ها همچنین جبران خسارت از طریق واگذاری سهام OpenAI یا پرداخت معادل نقدی آن را درخواست کرده‌اند.
خبرگزاری رویترز گزارش داده است که این پرونده در دادگاه منطقه‌ای ایالات متحده در ناحیه شمالی کالیفرنیا ثبت شده است. OpenAI نیز بلافاصله به درخواست رویترز برای اظهارنظر پاسخ نداده است. دادگاه باید مشخص کند که آیا این شرکت واقعاً اطلاعات توصیف‌شده در شکایت را جمع‌آوری کرده و آیا اقدامات آن برخلاف قانون بوده است یا خیر.
تدابیر حفاظتی OpenAI برای نوجوانان زیر ذره‌بین
OpenAI در ۱۸ اوت ۲۰۲۶ نسخه ویژه نوجوانان ChatGPT را معرفی کرد. این تجربه جدید با تدابیر حفاظتی سخت‌گیرانه‌تر، قابلیت‌هایی برای تشویق به استفاده سالم از سرویس و ابزارهای بیشتر برای کنترل والدین همراه بود. به گفته این شرکت، کاربرانی که سن خود را بین ۱۳ تا ۱۷ سال اعلام می‌کنند یا سیستم تشخیص می‌دهد احتمالاً زیر ۱۸ سال دارند، به‌صورت خودکار در محیط ویژه نوجوانان قرار می‌گیرند.
در ۷ اکتبر، مؤسسه ایمنی هوش مصنوعی جوانان وابسته به سازمان Common Sense Media اعلام کرد که ارزیابی این سازمان از ChatGPT نشان داده است برخی از تدابیر حفاظتی آن عملکرد قابل‌اعتمادی ندارند. این سازمان برای انجام بررسی خود، بیش از ۴ هزار پرامپت یا درخواست را پیش و پس از راه‌اندازی نسخه ویژه نوجوانان آزمایش کرده بود.
آزمایش‌کنندگان گزارش دادند که در برخی گفت‌وگوهای مرتبط با خودکشی، خودآزاری یا اختلالات خوردن، والدینی که حسابشان به حساب فرزندشان متصل بود، هیچ هشداری دریافت نکردند. این سازمان همچنین درباره دقت سیستم تخمین سن کاربران و نحوه برخورد ChatGPT با گفت‌وگوهای پرخطر ابراز نگرانی کرد.
سازمان Common Sense Media اعلام کرد که نسخه ویژه نوجوانان ChatGPT خطراتی غیرقابل‌قبول به همراه دارد و از OpenAI خواست تا زمان برطرف شدن مشکلات، دسترسی به این سرویس را به بزرگسالان محدود کند. البته این ارزیابی حاصل بررسی یک سازمان مستقل است و نباید آن را نتیجه‌گیری یا حکم یک نهاد دولتی دانست.
خبرگزاری آسوشیتدپرس گزارش داده است که OpenAI نتایج این بررسی را زیر سؤال برده و گفته است احتمال دارد بخشی از آزمایش‌ها پیش از فعال شدن کامل همه ابزارهای کنترل والدین انجام شده باشد.
والدین در حالت نوجوانان ChatGPT چه چیزهایی را می‌توانند کنترل کنند و چه محدودیت‌هایی دارند؟
ابزارهای کنترل والدین در ChatGPT به پدر یا مادری که حساب خود را به حساب فرزندش متصل کرده است، اجازه می‌دهد برخی تنظیمات را مدیریت کند. این تنظیمات شامل تعیین ساعت‌های استراحت و مدیریت شماری از قابلیت‌های ایمنی است. والدین همچنین می‌توانند اجازه استفاده از گفت‌وگوهای فرزند نوجوان خود برای آموزش مدل‌های هوش مصنوعی را غیرفعال کنند. بااین‌حال، این ابزارها امکان مشاهده تاریخچه گفت‌وگوهای نوجوان را در اختیار والدین قرار نمی‌دهند.
شکایت مطرح‌شده علیه OpenAI پرسش‌های مهمی را برجسته می‌کند؛ از جمله اینکه آیا کودکان واقعاً می‌دانند اطلاعات شخصی آن‌ها چگونه ممکن است جمع‌آوری و استفاده شود و آیا رفتار چت‌بات‌ها و تدابیر حفاظتی موجود برای کاربران کم‌سن‌وسالی که به دنبال مشاوره و راهنمایی هستند، کافی است یا خیر.
این پرونده اتهام‌های مطرح‌شده علیه OpenAI را به دادگاه کشانده است، اما به‌هیچ‌وجه ثابت نمی‌کند که این شرکت عمداً در پی معتاد کردن کودکان به ChatGPT بوده است. ارزیابی‌های ایمنی اخیر نیز به‌طور مستقل شواهدی درباره عملکرد نسخه ویژه نوجوانان در شرایط آزمایشی ارائه می‌کنند. بااین‌حال، نتیجه نهایی این پرونده به ادعاهای حقوقی و مدارکی بستگی خواهد داشت که در دادگاه بررسی می‌شوند.