وست ویرجینیا و چند ایالت دیگر از OpenAI شکایت کردند؛ ادعای فریب کاربران و آسیب به کودکان با چت‌بات ChatGPT
جی‌بی مک‌کاسکی، دادستان کل وست ویرجینیا، روز چهارشنبه علیه شرکت توسعه‌دهنده هوش مصنوعی OpenAI اقدام حقوقی کرد و با طرح شکایتی مدعی شد برنامه چت‌بات ChatGPT به جوانان آسیب می‌زند و افکار عمومی را فریب می‌دهد.
این شکایت که در دادگاه حوزه‌ای شهرستان میسون ثبت شده است، OpenAI را متهم می‌کند که با هدف جذب مشتری، ChatGPT را عمداً به‌گونه‌ای طراحی کرده که بیش از حد موافق و تأییدکننده و در نتیجه اعتیادآور باشد و سپس درباره قابلیت‌های ایمنی و حریم خصوصی آن اطلاعات نادرست ارائه کرده است. در این شکایت آمده است که کودکان خردسال به‌طور ویژه در معرض خطر قرار داشته‌اند و شرکت از این مسئله آگاه بوده اما آن را نادیده گرفته است.
مک‌کاسکی روز چهارشنبه در یک کنفرانس خبری در ساختمان کنگره ایالت آیووا در شهر دِ موین، در کنار دادستان‌های کل آیووا، کانزاس و نبراسکا، گفت هوش مصنوعی فناوری مهمی است که ایالات متحده باید آن را بپذیرد، اما این کار باید با ایجاد سازوکارهای حفاظتی همراه باشد.
او با اشاره به مزایای هوش مصنوعی برای پیشرفت پزشکی، کاربردهای نظامی و فرصت‌های دیگر گفت: «این فناوری نباید به کودکان ما آسیب بزند. و آنچه می‌دانیم این است که چنین اتفاقی می‌افتد. هوش مصنوعی همین حالا و در زمان واقعی به کودکان ما آسیب می‌زند.»
این شکایت درباره چیست؟
در این شکایت بیش از ۱۰۰ صفحه‌ای، طرحی منتسب به OpenAI توصیف شده است که بر اساس آن، سیستمی ساخته شده تا با پاسخ‌های شبیه انسان و موافق، کاربران را جذب کند، به گفته شاکیان «وابستگی ایجاد کند» و آنها را به استفاده بیشتر از پلتفرم ترغیب کند.
در شکایت آمده است: «ChatGPT همچنین اغلب کاربران را به اشتراک‌گذاری اطلاعات عمیقاً شخصی و حساس ترغیب می‌کند و تنظیمات پیش‌فرض OpenAI جمع‌آوری این داده‌هاست.» در ادامه ادعا شده است که OpenAI از طریق گفت‌وگوهای ChatGPT با ساکنان وست ویرجینیا، اطلاعات خصوصی و حساس آنها، از جمله اطلاعات مربوط به سلامت، وضعیت مالی، روابط و خانواده‌هایشان را جمع‌آوری، ذخیره و استفاده می‌کند.
بر اساس متن شکایت، OpenAI سپس از این داده‌ها برای آموزش مدل‌های خود، فروش اشتراک‌های پولی و هدفمند کردن تبلیغات مربوط به محصولات دیگر استفاده می‌کند.
در این شکایت همچنین آمده است که ChatGPT در تقلید از گفتار انسان و ایجاد روابط چنان پیشرفته است که بسیاری از کاربران، به‌ویژه جوانان، «ممکن است تفاوت میان صحبت کردن با یک فرد واقعی و تعامل با یک سیستم رایانه‌ای را به‌طور کامل درک نکنند.»
این دادخواست همچنین به پیامدهای مرگبار ادعایی ماهیت متقاعدکننده ChatGPT و راهنمایی‌های مشکوک آن در دنیای واقعی پرداخته است. در این متن به چندین مورد در سال‌های اخیر اشاره شده که در آنها چت‌بات توصیه‌های پزشکی نادرست ارائه کرده، مشکلات سلامت روان را تشدید کرده و حتی کاربران را به خودکشی ترغیب کرده است.
در یکی از پرونده‌های سال ۲۰۲۵، یک نوجوان کالیفرنیایی پس از آنکه ChatGPT به او گفته بود می‌تواند زاناکس را با کراتوم و الکل ترکیب کند، جان باخت. در مورد دیگری در همان سال، ChatGPT نوجوانی را که با افکار خودکشی دست‌وپنجه نرم می‌کرد، تشویق کرد مشکلاتش را از والدینش پنهان کند و حتی به او در طراحی طناب دار محکم‌تری کمک کرد؛ نوجوان سرانجام از همان طناب برای حلق‌آویز کردن خود استفاده کرد.
بر اساس این شکایت، با وجود ادعاهای OpenAI درباره ایمنی این برنامه، شرکت از وجود مشکلات آگاه بوده است. در دادخواست آمده است که فقدان تدابیر حفاظتی در ChatGPT «بی‌اعتنایی عمدی به ایمنی کودکان» را نشان می‌دهد.
سخنگوی OpenAI در پاسخ به این اتهامات گفت این شرکت برای بهبود سامانه‌های ایمنی خود تلاش کرده و قابلیت‌های جدیدی برای محافظت از جوانان به این سرویس افزوده است.
این سخنگو در پاسخ ایمیلی گفت: «هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما همچنان با کارشناسان همکاری خواهیم کرد تا اقداماتمان را هدایت کنیم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله کنترل‌های والدین، یادآوری‌های استراحت و محافظت‌های متناسب با سن که امروز در دسترس هستند.»
گام بعدی چیست؟
وست ویرجینیا به هفت ایالت دیگر ــ آیووا، کانزاس، نبراسکا، آرکانزاس، آریزونا، آیداهو و مونتانا ــ پیوسته است که آنها نیز به‌طور جداگانه در دادگاه‌های ایالتی خود علیه OpenAI شکایت کرده‌اند. هنوز تاریخی برای محاکمه تعیین نشده است، اما بر اساس پرونده ثبت‌شده، به نظر می‌رسد محاکمه زودتر از نیمه نخست سال ۲۰۲۸ آغاز نخواهد شد.
این تازه‌ترین مورد از مجموعه تلاش‌های در حال انجام ایالت‌ها، از جمله وست ویرجینیا، برای مقابله با شرکت‌های فناوری است.
وست ویرجینیا در ماه اوت بخشی از ائتلافی متشکل از ۴۷ ایالت بود که با Meta، شرکت مالک شبکه‌های اجتماعی Instagram و Facebook، بر سر اتهام طراحی پلتفرم به‌گونه‌ای که اعتیادآور و برای جوانان مضر باشد، به توافقی ۱۷ میلیارد دلاری رسیدند. سهم وست ویرجینیا از این توافق حدود ۱۱۴ میلیون دلار خواهد بود.
جارود بری خبرنگار Gazette-Mail است. می‌توان با شماره 304-348-4810 یا نشانی [email protected] با او تماس گرفت.