مادر در دادخواستی OpenAI را به سوءاستفاده از کودکان متهم کرد
در یک دادخواست دسته‌جمعی، مادری ادعا کرده است که شرکت فناوری OpenAI با دور زدن رضایت والدین، به کودکان اجازه استفاده از چت‌بات خود را داده، آن‌ها را به این فناوری وابسته کرده و اطلاعات آن‌ها را برای آموزش مدل‌های زبانی بزرگ خود جمع‌آوری کرده است.
(CN) — یک مادر روز سه‌شنبه در قالب یک دادخواست دسته‌جمعی، OpenAI را متهم کرد که با کنار گذاشتن رضایت والدین، به کودکان امکان استفاده از چت‌بات خود را داده، آن‌ها را به این فناوری وابسته کرده و با دریافت اطلاعاتشان، از آن‌ها برای آموزش مدل‌های زبانی بزرگ خود استفاده کرده است.
این مادر که نامش در دادخواست منتشر نشده، در شکایت ۸۱ صفحه‌ای خود نوشته است: «OpenAI از طریق چت‌بات هوش مصنوعی خود، ChatGPT، در مقیاسی بی‌سابقه از کودکان ما سود برده است. این شرکت طی سال‌ها به‌طور غیرقانونی حجم عظیمی از داده‌های بسیار حساس و ارزشمند میلیون‌ها کودک را استخراج کرده است... سپس از این گنجینه بی‌قیمت اطلاعات کودکان برای آموزش مدل‌های زبانی بزرگ، ساخت پروفایل‌های دقیق از کودکان و ثروتمندتر کردن خود استفاده کرده است. همه این اقدامات غیرقانونی بوده است.»
ChatGPT که نخستین بار در سال ۲۰۲۲ عرضه شد، اکنون بیش از نیمی از بازار جهانی چت‌بات‌ها را در اختیار دارد.
با وجود اینکه مالک ChatGPT، یعنی OpenAI، اعلام کرده است افراد زیر سن قانونی برای ساخت حساب و استفاده از این سرویس به اجازه والدین نیاز دارند، شاکی می‌گوید در عمل کودکان تنها از سوی سامانه خواسته می‌شوند نام خود را وارد کنند و جعبه‌ای را علامت بزنند که تأیید می‌کند بیش از ۱۳ سال دارند.
این مادر در دادخواست نوشته است: «طبق قانون، کودکان نمی‌توانند به این شکل از حقوق خود صرف‌نظر کنند. OpenAI این موضوع را می‌داند و به همین دلیل می‌گوید برای استفاده کودکان از ChatGPT رضایت والدین را لازم می‌داند. اما در عمل چنین کاری انجام نمی‌دهد. این شرکت حتی با والدین کودکان ارتباط برقرار نمی‌کند، چه رسد به اینکه رضایت مؤثر آن‌ها را دریافت کند.»
به گفته این مادر، OpenAI همچنین با استفاده از اطلاعاتی که کودکان در ChatGPT وارد می‌کنند، آن‌ها را به ارائه اطلاعات بیشتر ترغیب می‌کند؛ این سامانه با ساخت پروفایل‌های شخصی‌سازی‌شده، یادگیری اصطلاحات، کوتاه‌نویسی‌ها و ایموجی‌های متناسب با سن کاربران، به آن‌ها نزدیک‌تر می‌شود.
پل یتر، وکیل شاکی، در بیانیه‌ای کتبی گفت: «OpenAI کودکان را دستکاری می‌کند تا خصوصی‌ترین افکار و تصاویر خود را با ChatGPT به اشتراک بگذارند. اگر یک فرد غریبه چنین کاری با کودکی انجام می‌داد، مردم خشمگین می‌شدند. اما برای OpenAI این فقط روال معمول کسب‌وکار است.»
این مادر می‌گوید دختر ۱۲ ساله‌اش از این چت‌بات درباره راه‌های از بین بردن جوش صورتش سؤال می‌کرد. او سپس شروع به ارسال عکس‌های سلفی و اطلاعات شخصی خود کرد. این دختر از ChatGPT می‌پرسید که «چه ویژگی‌های زشتی» در چهره‌اش وجود دارد و «در صورت این دختر چه چیزهایی باید اصلاح شود».
به گفته مادر، ChatGPT به دختر اطمینان می‌داد که زشت نیست، اما در عین حال ناامنی او درباره نامتقارن بودن چهره‌اش را تأیید می‌کرد؛ موضوعی که در گفت‌وگوهای او تکرار می‌شد. این چت‌بات همچنین پیشنهادهایی برای «زیباتر احساس کردن» او ارائه می‌داد، از جمله مراقبت پوستی، تغییر مدل مو و استفاده از لوازم جانبی.
در مورد پسر ۱۶ ساله این مادر نیز گفته شده است که او اغلب برای انجام تکالیف و مسائل مربوط به رابطه عاطفی‌اش از ChatGPT کمک می‌گرفت. به گفته شاکی، این چت‌بات در مورد هر دو فرزند، آن‌ها را همواره به اشتراک‌گذاری اطلاعات بیشتر تشویق می‌کرد، احساساتشان را سریع تأیید می‌کرد و سبک ارتباطی آن‌ها را تقلید می‌کرد.
مادر در دادخواست خود نوشته است: «این موضوع باعث می‌شود کودک باور کند ChatGPT واقعاً او را درک می‌کند و همین امر کودک را بیشتر جذب می‌کند و باعث می‌شود اطلاعات خصوصی بیشتری را با OpenAI در میان بگذارد. این چرخه بی‌پایان تکرار می‌شود. کودک جذب می‌شود و حجم زیادی از اطلاعات را در اختیار OpenAI قرار می‌دهد؛ اطلاعاتی که این شرکت از آن‌ها برای آموزش مدل‌های خود، جذب کودکان بیشتر و ثروتمندتر کردن خود استفاده می‌کند.»
این شکایت همچنین یک درخواست غیرمعمول را مطرح کرده است: «اعطای سهم مالکیت در OpenAI به شاکیان، یا ارزش نقدی آن، متناسب با داده‌هایی که OpenAI به‌طور غیرقانونی دریافت کرده است.»
سخنگوی OpenAI به ایمیلی که برای دریافت نظر این شرکت درباره این دادخواست ارسال شده بود، پاسخی نداد.
OpenAI در سال ۲۰۱۵ به‌عنوان یک سازمان غیرانتفاعی توسط گروهی از افراد، از جمله سم آلتمن و ایلان ماسک که ریاست مشترک آن را بر عهده داشتند، تأسیس شد. این شرکت در سال ۲۰۱۹، پس از کناره‌گیری ماسک، به یک شرکت انتفاعی با ساختار «سود محدود» تبدیل شد؛ به این معنا که سود سرمایه‌گذاران به ۱۰۰ برابر سرمایه‌گذاری آن‌ها محدود شده است.
OpenAI اعلام کرده است که ساختار جدید به این شرکت کمک می‌کند از شرکت‌های سرمایه‌گذاری خطرپذیر و شرکت‌های بزرگ سرمایه جذب کند. مایکروسافت نزدیک به یک‌چهارم این شرکت را در اختیار دارد و بنیاد OpenAI، یک شرکت عام‌المنفعه، نیز تقریباً سهمی مشابه دارد.
ماه گذشته گزارش شد که OpenAI در تلاش است دست‌کم ۳۰ میلیارد دلار سرمایه جدید جذب کند؛ اقدامی که ارزش این شرکت را حدود ۱.۴ تریلیون دلار برآورد می‌کند.
دادخواست دسته‌جمعی روز سه‌شنبه، مشابه پرونده‌های قضایی دیگری است که علیه شرکت‌های شبکه‌های اجتماعی مانند فیسبوک، یوتیوب، تیک‌تاک و اسنپ‌چت مطرح شده‌اند.
در آن پرونده‌ها، شرکت‌های فناوری متهم شده‌اند که عمداً کودکان را به استفاده از پلتفرم‌های خود وابسته کرده‌اند و این مسئله باعث آسیب‌های روانی مانند اضطراب، افسردگی و اختلال در تصویر بدنی شده است.
در ماه مارس، یک هیئت منصفه در یک پرونده، به یک خانواده ۶ میلیون دلار غرامت پرداخت کرد؛ حدود ۷۰ درصد این مبلغ را شرکت متا و ۳۰ درصد دیگر را گوگل، مالک یوتیوب، پرداخت خواهند کرد. این تنها نخستین دادگاه آزمایشی در این مجموعه پرونده‌ها بود؛ نزدیک به ۲۵۰۰ شاکی دیگر نیز ادعاهای مشابهی مطرح کرده‌اند.