هشت ایالت آمریکا از OpenAI به‌دلیل آسیب ادعایی ChatGPT به کودکان شکایت کردند
ائتلافی متشکل از هشت ایالت آمریکا شامل آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا اقدام قانونی علیه OpenAI آغاز کرده است. این ایالت‌ها مدعی‌اند چت‌بات ChatGPT خطرات قابل‌توجهی برای کودکان ایجاد می‌کند و درباره ایمنی آن، والدین را گمراه می‌سازد. این شکایت‌ها روز چهارشنبه در دادگاه‌های ایالتی مختلف ثبت شدند و برنا بِرد، دادستان کل آیووا، رهبری این پرونده را بر عهده دارد. در این شکایت‌ها ادعا شده است که OpenAI مرتکب «رفتاری عمدی، خطرناک، بی‌پروا و غیرقانونی» شده است.
برد بر فوریت این موضوع تأکید کرد و گفت ادعاهای OpenAI درباره ایمنی ChatGPT گمراه‌کننده است. او اظهار داشت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.» در این دادخواست به مواردی اشاره شده که طبق ادعا، ChatGPT در آنها توصیه‌های پزشکی زیان‌بار ارائه کرده، کاربران را به خودآزاری تشویق کرده و رفتارهای ناایمن را تقویت کرده است؛ آن هم در شرایطی که این چت‌بات خود را به شکل یک همراه دوستانه نشان می‌دهد. موضع برد روشن است: هدف این شکایت، محافظت از کودکان و پاسخگو کردن OpenAI در برابر قوانین ایالتی است.
در واکنش به این اتهامات، درو پوساتری، سخنگوی OpenAI، از رویه‌های این شرکت دفاع کرد و گفت OpenAI تدابیر حفاظتی متناسب با سن کاربران را اجرا کرده است؛ تدابیری که به گفته او در بسیاری از محصولات هوش مصنوعی دیگر وجود ندارند. پوساتری افزود این شرکت با مقام‌های ایالتی همکاری می‌کند تا سیاست‌های گسترده‌تری برای ارتقای استانداردهای صنعت تدوین شود. او گفت: «هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما همچنان با کارشناسان همکاری خواهیم کرد تا از یافته‌های آنها در کار خود استفاده کنیم.» او به قابلیت‌های ایمنی موجود، از جمله کنترل‌های والدین و حفاظت‌های متناسب با سن در مدل‌ها، اشاره کرد.
فشارها بر OpenAI در پی چندین پرونده قضایی مرتبط با مرگ‌های غیرقانونی که ChatGPT را با پیامدهای زیان‌بار مرتبط می‌کنند، افزایش یافته است. در برخی از این موارد، کاربران دچار توهمات شدید شده‌اند و در مواردی نیز به‌طور تراژیکی دست به خودکشی زده‌اند. پیش از اقدام ائتلاف هشت ایالت، جیمز اوت‌مایر، دادستان کل فلوریدا، نیز در ماه ژوئن از OpenAI شکایت کرده و این شرکت را متهم کرده بود که آگاهانه محصولی ناایمن را توزیع کرده است.
با وجود انتقادهای فزاینده، OpenAI در پاسخ به نگرانی‌های مربوط به ایمنی کودکان اقداماتی انجام داده است. این شرکت طی سال گذشته قابلیت‌های ایمنی خود را تقویت کرده و اخیراً نسخه‌ای ویژه از چت‌بات خود را که به‌طور مشخص برای افراد زیر سن قانونی طراحی شده، با نام ChatGPT for Teens راه‌اندازی کرده است. این نسخه مجموعه‌ای از ابزارهای آموزشی و سازوکارهای حفاظتی را ارائه می‌دهد که هدف آنها کاهش مواجهه کاربران جوان با محتوای بالقوه زیان‌بار یا نامناسب است.
OpenAI در بیانیه‌ای درباره چت‌بات ویژه نوجوانان بر اهمیت فراهم کردن دسترسی به هوش مصنوعی متناسب با مراحل مختلف رشد تأکید کرد. این شرکت اعلام کرد: «نوجوانان باید بتوانند از هوش مصنوعی برای یادگیری، خلق کردن و کاوش استفاده کنند» و تأکید کرد که چنین دسترسی‌ای باید همراه با حفاظت‌های لازم باشد.
برای افرادی که با بحران یا افکار خودکشی مواجه هستند، منابعی مانند خط ملی پیشگیری از خودکشی و بحران در دسترس است که پشتیبانی فوری و کمک مشاوران آموزش‌دیده را فراهم می‌کند.