شکایت هشت ایالت آمریکا از OpenAI به اتهام به خطر انداختن کودکان برای کسب سود از طریق ChatGPT
نویسنده: آرتور کی | ۱۵ اکتبر ۲۰۲۶
دادستان‌های کل هشت ایالت آمریکا علیه شرکت OpenAI شکایت کرده‌اند. آن‌ها مدعی‌اند سازنده ChatGPT با هدف کسب سود، مردم و به‌ویژه کودکان را فریب داده و امنیت آن‌ها را به خطر انداخته است.
بر اساس اسناد منتشرشده از سوی ایالت‌ها، ویرجینیای غربی، آیووا، کانزاس، نبراسکا، آرکانزاس، آریزونا، آیداهو و مونتانا روز ۱۴ اکتبر از ثبت این شکایت‌ها خبر دادند.
موضوع اصلی این شکایت‌ها، شیوه‌های ایمنی هوش مصنوعی در شرکت سازنده ChatGPT است. OpenAI تاکنون واکنش عمومی به این شکایت‌ها نشان نداده است.
ایالت‌های آمریکا چه اتهاماتی علیه OpenAI مطرح کرده‌اند؟
در شکایت‌های ثبت‌شده ادعا شده است که ChatGPT کاربران را برای آسیب رساندن به خود یا دیگران راهنمایی کرده است. در شکایت ایالت ویرجینیای غربی آمده که مجموعه رو به گسترشی از پژوهش‌ها نشان می‌دهد ChatGPT توانایی تفکر انتقادی کاربران را تضعیف می‌کند، به بدبینی‌های بیمارگونه و باورهای هذیانی دامن می‌زند، توصیه‌های پزشکی خطرناک ارائه می‌دهد و رفتارها و روابط ناسالم را ترویج می‌کند.
در این شکایت همچنین به گزارش‌های اخیر درباره عامل‌های هوش مصنوعی OpenAI که از کنترل خارج شده‌اند، به‌عنوان شواهدی از رفتار غیرمسئولانه شرکت اشاره شده است. در متن شکایت ویرجینیای غربی آمده است: «تمام این آسیب‌ها قابل پیش‌بینی و پیشگیری بودند.»
در ادامه این شکایت استدلال شده که سم آلتمن، مدیرعامل OpenAI، دست‌کم از سال ۲۰۱۵ درباره خطرات ایمنی هوش مصنوعی هشدار داده است. همچنین استفاده کودکان از ChatGPT موضوعی پنهان نیست و شماری از کارکنان OpenAI نیز به دلیل نگرانی‌های مربوط به ایمنی، این شرکت را ترک کرده‌اند.
OpenAI سال گذشته پذیرفت که سامانه‌هایش ممکن است هنگام پاسخ‌گویی به کاربرانی که در شرایط بحرانی روحی قرار دارند، عملکرد مناسبی نداشته باشند. بااین‌حال، این شرکت تأکید کرد که مجموعه‌ای از تدابیر حفاظتی چندلایه را برای کاهش خطرات در نظر گرفته است.
این شرکت همچنین در وب‌سایت خود اعلام کرده که با استفاده از فناوری تخمین سن، برخی کاربران را به نسخه ویژه نوجوانان ChatGPT منتقل می‌کند؛ نسخه‌ای که تدابیر حفاظتی بیشتری دارد. این محدودیت‌ها تا زمانی اعمال می‌شوند که کاربران با تأیید سن خود ثابت کنند بزرگسال هستند.
شکایت گروهی در کالیفرنیا درباره اطلاعات شخصی کودکان
در پرونده‌ای جداگانه، روز سه‌شنبه شکایتی گروهی در کالیفرنیا به نمایندگی از دو کودک و «تمام کودکان دیگری که در شرایط مشابه قرار دارند» ثبت شد. در این شکایت ادعا شده است که OpenAI آگاهانه از ChatGPT برای جمع‌آوری اطلاعات شخصی کودکان استفاده کرده و با به‌کارگیری این داده‌ها برای آموزش مدل‌های خود، از آن‌ها سود برده است.
اظهارات خود سم آلتمن نیز بخشی از مستندات این پرونده را تشکیل می‌دهد. در متن شکایت به سخنان او در یک پادکست در سال گذشته استناد شده است؛ جایی که آلتمن گفته بود مردم خصوصی‌ترین جزئیات زندگی خود را با ChatGPT در میان می‌گذارند و به‌ویژه جوانان از این ابزار به‌عنوان درمانگر یا مربی زندگی استفاده می‌کنند.
شاکیان با استناد به قوانین کالیفرنیا استدلال می‌کنند که یک فرد بزرگسال نمی‌تواند چنین اطلاعاتی را از کودکان جمع‌آوری کند، از آن‌ها درآمد به دست آورد و سپس مدعی شود که کودک برای این کار رضایت داده است. این شکایت‌ها در شرایطی مطرح شده‌اند که فشار نهادهای نظارتی بر توسعه‌دهندگان هوش مصنوعی درباره نحوه استفاده از داده‌های کاربران رو به افزایش است. هفته گذشته نیز دفتر کمیسر اطلاعات بریتانیا (ICO) از دریافت تعهدات مربوط به حفاظت از داده‌ها از توسعه‌دهندگان هوش مصنوعی خبر داده بود.
در حال حاضر، این شکایت‌ها تغییر فوری در نحوه استفاده کاربران از ChatGPT ایجاد نمی‌کنند. والدینی که فرزندانشان از ChatGPT استفاده می‌کنند، می‌توانند بررسی کنند که آیا حساب کاربری فرزندشان در حالت ویژه نوجوانان قرار گرفته است یا خیر؛ حالتی که به گفته OpenAI، تدابیر حفاظتی بیشتری در آن اعمال می‌شود. آن‌ها همچنین می‌توانند اطلاعات شخصی‌ای را که فرزندشان در گفت‌وگوها به اشتراک گذاشته است، بررسی کنند. کاربران بزرگسالی نیز که به‌اشتباه در حالت ویژه نوجوانان قرار گرفته‌اند، می‌توانند با تأیید سن خود از این حالت خارج شوند.
این پرونده‌ها هنوز در مراحل اولیه رسیدگی قرار دارند و هیچ دادگاهی درباره اتهامات مطرح‌شده حکمی صادر نکرده است. OpenAI نیز تاکنون اعلام نکرده که آیا در واکنش به این شکایت‌ها، تدابیر حفاظتی ChatGPT برای کاربران کم‌سن‌وسال را تغییر خواهد داد یا خیر.