شکایت از OpenAI به اتهام استفاده از «ترس‌ها، امیدها و رازهای کودکان» برای آموزش مدل‌های هوش مصنوعی
در شکایتی تازه علیه OpenAI ادعا شده است که این شرکت برای آموزش مدل‌های هوش مصنوعی خود، کاربران زیر سن قانونی را به افشای اطلاعات حساسشان ترغیب می‌کند، بی‌آنکه رضایت معتبر والدین آن‌ها را دریافت کرده باشد.
این شکایت که با درخواست رسیدگی به‌صورت دعوای گروهی، هفته جاری به نمایندگی از دو کودک ۱۲ و ۱۶ ساله با هویت نامشخص در دادگاه فدرال سان‌فرانسیسکو ثبت شده، مدعی است OpenAI با استفاده از اطلاعات کودکان، از جمله رازهای شخصی و اطلاعات مربوط به سلامت آن‌ها، به شکلی ناعادلانه برای خود منفعت مالی ایجاد کرده است.
در متن شکایت آمده است: «OpenAI هیچ حقی برای برداشتن این اطلاعات نداشت، اما با وجود این، آن‌ها را در اختیار گرفت. سپس از این مجموعه بی‌نهایت ارزشمند از اطلاعات کودکان برای آموزش مدل‌های زبانی بزرگ، ساخت پروفایل‌های دقیق از کودکان و کسب منفعت مالی استفاده کرد. تمام این اقدامات غیرقانونی بوده است.»
OpenAI به درخواست اظهارنظر درباره این موضوع بلافاصله پاسخی نداد.
شرایط استفاده از خدمات OpenAI از نظر رسمی به افراد زیر ۱۳ سال اجازه استفاده از این خدمات را نمی‌دهد. بااین‌حال، در شکایت مطرح شده است که اقدامات این شرکت برای کنترل سن کاربران و جلوگیری از دسترسی افراد کم‌سن‌وسال مؤثر نبوده است. شاکیان همچنین معتقدند نباید از کودکان انتظار داشت اصطلاحات و عبارت‌های پیچیده حقوقی موجود در شرایط استفاده از خدمات شرکت را درک کنند؛ دیدگاهی که دیگر کارشناسان ایمنی هوش مصنوعی نیز درباره صنعت هوش مصنوعی به‌طور کلی مطرح کرده‌اند.
در این شکایت همچنین درخواست شده است کودکانی که OpenAI اطلاعاتشان را جمع‌آوری کرده، در ازای استفاده از این داده‌ها غرامت مالی دریافت کنند. به بیان ساده، اگر OpenAI می‌خواهد از اطلاعات کودکان استفاده کند، باید بابت آن پول بپردازد.
اندی لیدل، مدیر مرکز حقوقی فناوری آموزشی (EdTech Law Center) مستقر در آستین که یکی از چند مؤسسه حقوقی پیگیر این پرونده است، به نشریه Futurism گفت: «امیدواریم اگر OpenAI مجبور شود برای استفاده از داده‌های کودکان پول بپردازد، در نهایت انگیزه بیشتری برای ارائه محصولی ایمن‌تر پیدا کند.»
طبق اطلاعات مطرح‌شده در شکایت، یکی از شاکیان که دختری ۱۲ ساله ساکن هاوایی است، اوایل سال جاری حسابی در ChatGPT ایجاد کرده بود. گفته می‌شود او در گفت‌وگو با این چت‌بات اعلام کرده بود که تنها ۱۲ سال دارد، اما چت‌بات با وجود اطلاع از سن او، همچنان درباره موضوعات بسیار خصوصی با وی گفت‌وگو می‌کرد. بر اساس متن شکایت، بخش زیادی از تعاملات این دختر با چت‌بات درباره مشکلات عاطفی و نگرانی‌هایش از ظاهر و بدن خود بوده است. او به چت‌بات گفته بود که برخی وعده‌های غذایی را حذف می‌کند و حتی عکس‌هایی از خود بارگذاری کرده بود تا چت‌بات درباره ویژگی‌های ظاهری‌اش قضاوت کند. در شکایت ادعا شده است که چت‌بات هنگام افشای اطلاعات حساس از سوی این کودک، او را تحسین می‌کرد، «شجاع» می‌خواند و می‌گفت «خوشحال» است که او مشکلاتش را با چت‌بات در میان می‌گذارد.
پل یتر، وکیل ارشد کودکان شاکی در این پرونده، در بیانیه‌ای گفت: «OpenAI کودکان را به افشای خصوصی‌ترین افکار و تصاویرشان در ChatGPT ترغیب می‌کند. اگر فردی غریبه چنین رفتاری با یک کودک داشت، موجی از خشم و اعتراض به راه می‌افتاد؛ اما برای OpenAI، این فقط بخشی از روال معمول کسب‌وکار است.»
او افزود: «قانون می‌گوید کودکان نمی‌توانند بدون رضایت والدینشان از حقوق خود صرف‌نظر کنند. ما این شکایت را مطرح کرده‌ایم تا OpenAI را بابت ساختن کسب‌وکاری تریلیون‌دلاری بر پایه ترس‌ها، امیدها و رازهای به‌سرقت‌رفته کودکان پاسخ‌گو کنیم.»
این شکایت در شرایطی مطرح شده است که نگرانی‌ها بار دیگر درباره ایمنی قابلیت «ChatGPT برای نوجوانان» افزایش یافته است. OpenAI می‌گوید این قابلیت با بهره‌گیری از دیدگاه متخصصان سلامت روان و آموزش طراحی شده تا تجربه ایمن‌تری برای کاربران نوجوان فراهم کند، اما اکنون این پرسش مطرح است که آیا این قابلیت واقعاً مطابق ادعاهای شرکت عمل می‌کند یا خیر. البته OpenAI نتایج یک بررسی مستقل اخیر را که نشان می‌داد این قابلیت مطابق ادعاها عمل نمی‌کند، رد کرده است.