دادستان کل آریزونا از OpenAI شکایت کرد؛ اتهام آسیب‌رساندن ChatGPT به کودکان و فریب والدین
نویسنده: کریستین استنوود
تاریخ انتشار: ۱۴ اکتبر ۲۰۲۶، ساعت ۱۷:۲۹ به وقت آریزونا
فینیکس (AZFAMILY) ـ کریس مایز، دادستان کل ایالت آریزونا، روز چهارشنبه اعلام کرد که دفتر او علیه شرکت OpenAI شکایت کرده است. در این شکایت ادعا شده که این شرکت به کودکان آریزونا آسیب رسانده، والدین را فریب داده و قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است.
این شکایت که در دادگاه عالی شهرستان ماریکوپا ثبت شده، OpenAI را به نقض گسترده قانون مقابله با تقلب علیه مصرف‌کنندگان در آریزونا متهم می‌کند. محور اصلی اتهامات، شیوه‌های طراحی و بازاریابی این شرکت است که در متن شکایت، فریبکارانه توصیف شده‌اند.
یکی از اتهامات مطرح‌شده این است که OpenAI برخی ویژگی‌های ChatGPT را از کاربران پنهان کرده است؛ ویژگی‌هایی که باعث می‌شوند این چت‌بات به شکلی «فوق‌العاده موافق» و «به‌طرز کم‌نظیری تأییدکننده و چاپلوسانه» با کاربران برخورد کند. همچنین در شکایت ادعا شده که این شرکت ChatGPT را به‌گونه‌ای طراحی کرده است که با تقلید از دلسوزی و همدلی انسانی، کاربران، از جمله افراد زیر سن قانونی، را به تعامل بیشتر با این پلتفرم ترغیب کند و مدت حضور آن‌ها را افزایش دهد.
مایز گفت: «OpenAI با وجود نشانه‌های روشنی مبنی بر اینکه افراد زیر سن قانونی به‌طور مرتب با چت‌بات این شرکت تعامل دارند، اقدامات حفاظتی کافی برای کاربران انجام نداد و شفافیت لازم را فراهم نکرد. این کوتاهی، امنیت ساکنان آریزونا را به خطر انداخته است. ما از OpenAI شکایت کرده‌ایم تا از کودکان آریزونا محافظت کنیم و این شرکت را بابت نقض مکرر قوانین ایالت پاسخ‌گو نگه داریم.»
آسیب‌های ادعایی به کودکان و نوجوانان
در این شکایت ادعا شده است که ChatGPT کودکان و نوجوانان آریزونا را در معرض مجموعه‌ای از آسیب‌های جدی قرار داده، بی‌آنکه OpenAI این خطرات را به کاربران اطلاع داده باشد. از جمله این آسیب‌ها می‌توان به موارد زیر اشاره کرد:
- تضعیف مهارت‌های تفکر انتقادی
- تشویق به بدگمانی بی‌دلیل یا افکار هذیانی
- ارائه توصیه‌های پزشکی خطرناک بدون داشتن مجوز حرفه‌ای
- ترویج رفتارها و روابط ناسالم
در متن شکایت همچنین آمده است که این پلتفرم در برخی موارد پاسخ‌هایی تولید کرده که کاربران آن‌ها را به‌منزله تشویق به خودآزاری یا خشونت علیه دیگران برداشت کرده‌اند. دفتر دادستان کل آریزونا مدعی است که OpenAI می‌توانست به‌طور منطقی چنین خطراتی را پیش‌بینی کند، اما هرگز مصرف‌کنندگان این ایالت را از آن‌ها آگاه نکرده است.
علاوه بر این، در شکایت ادعا شده که ChatGPT افراد زیر سن قانونی را تشویق می‌کند اطلاعات شخصی خود را فقط با این چت‌بات در میان بگذارند و گاهی آن‌ها را از درد دل کردن یا در میان گذاشتن مسائلشان با والدین، اعضای خانواده، مقام‌های مسئول یا دوستان بازمی‌دارد.
اتهام ترجیح سودآوری بر ایمنی کاربران
بر اساس متن شکایت، OpenAI هنگام تلاش برای عرضه سریع ChatGPT و تبدیل آن به نخستین چت‌بات هوش مصنوعی مولد با استفاده گسترده عمومی، سودآوری را بر ایمنی کاربران ترجیح داده است. همچنین ادعا شده که این شرکت با استفاده از انتخاب‌های طراحی فریبکارانه و ایجاد تمایلی درونی در چت‌بات برای موافقت با کاربران، آن را به‌گونه‌ای ساخته است که استفاده وسواس‌گونه و مهارناپذیر افراد زیر سن قانونی را به حداکثر برساند. به ادعای شاکی، همین تمایل به موافقت با کاربران حتی می‌تواند سازوکارهای حفاظتی موجود را بی‌اثر کند.
OpenAI در سال ۲۰۲۲ ChatGPT را عرضه کرد. این محصول از آن زمان به پرکاربردترین چت‌بات جهان تبدیل شده و به گفته دفتر دادستان کل آریزونا، نزدیک به نیمی از بازار چت‌بات‌ها در آمریکا را در اختیار دارد.
واکنش OpenAI به شکایت
درو پوساتری، سخنگوی OpenAI، در بیانیه‌ای که در اختیار رسانه Arizona’s Family قرار داد، از اقدامات ایمنی این شرکت دفاع کرد.
پوساتری گفت: «ما تدابیر حفاظتی متناسب با سن کاربران را در محصول خود گنجانده‌ایم که در سطح صنعت پیشرو هستند و بسیاری از محصولات دیگر هوش مصنوعی از آن‌ها برخوردار نیستند. هرچند هیچ سامانه‌ای نمی‌تواند کاملاً بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دیدگاه‌های آن‌ها در بهبود اقداماتمان و ایجاد سازوکارهای حفاظتی بیشتر استفاده کنیم؛ از جمله قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و تدابیر حفاظتی متناسب با سن در مدل‌ها که هم‌اکنون در دسترس هستند. ما متعهدیم با ایالت‌ها برای پیشبرد سیاست‌های عملی در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط یک شرکت.»
پوساتری همچنین به نگرانی‌ها درباره مواردی پرداخت که چت‌بات رفتاری ناخواسته یا ناایمن از خود نشان داده است؛ وضعیتی که در صنعت هوش مصنوعی معمولاً از آن با عنوان «ناهم‌راستایی» (Misalignment) یاد می‌شود.
او گفت: «ما همچنان اطلاعات مربوط به اقدامات گسترده‌ای را که در واکنش به موارد ناهم‌راستایی انجام داده‌ایم، منتشر خواهیم کرد. سازوکارهای حفاظتی را در سراسر سامانه‌های پژوهشی خود تقویت کرده‌ایم، بررسی گسترده‌تر فعالیت مدل‌ها را ادامه داده‌ایم، به سازمان‌های آسیب‌دیده اطلاع‌رسانی کرده‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
نحوه ثبت شکایت
ساکنان آریزونا که معتقدند خود یا فرزندانشان در ارتباط با این موضوع قربانی تقلب علیه مصرف‌کنندگان یا اقدامات غیرمنصفانه شده‌اند، می‌توانند از طریق وب‌سایت www.azag.gov/consumer شکایت خود را ثبت کنند.