دادستان آیووا: چت‌جی‌پی‌تی به افراد برای خودکشی راهنمایی می‌دهد؛ ۸ ایالت آمریکا از OpenAI شکایت کردند
هشت ایالت آمریکا روز چهارشنبه در یکی از مهم‌ترین اقدامات حقوقی هماهنگ علیه یک شرکت فعال در حوزه هوش مصنوعی، از OpenAI شکایت کردند. این ایالت‌ها مدعی‌اند چت‌جی‌پی‌تی، چت‌بات پرطرفدار این شرکت، به کودکان برای آسیب رساندن به خود راهنمایی می‌دهد.
ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا هرکدام شکایتی جداگانه علیه OpenAI در دادگاه‌های ایالتی خود ثبت کرده‌اند. آن‌ها این شرکت را به رفتار غیرقانونی و بی‌ملاحظه متهم کرده‌اند.
این اقدام حقوقی در شرایطی صورت می‌گیرد که نگرانی پژوهشگران، متخصصان پزشکی و نهادهای نظارتی درباره تأثیر احتمالی چت‌بات‌های هوش مصنوعی بر کودکان و نوجوانان رو به افزایش است. طرح هماهنگ این شکایت‌ها، با توجه به اینکه چندین ایالت به‌طور هم‌زمان یک شرکت را هدف قرار داده‌اند، از تشدید قابل‌توجه نظارت قضایی بر صنعت هوش مصنوعی حکایت دارد.
«OpenAI به کودکان آسیب می‌رساند»
در این شکایت‌ها، OpenAI به گمراه کردن افکار عمومی درباره ایمنی چت‌جی‌پی‌تی متهم شده است. شاکیان معتقدند این چت‌بات خود را همراهی جذاب و همدل نشان می‌دهد که با کاربران موافقت می‌کند، اما در عمل، بنا بر ادعای آن‌ها، رفتارهای آسیب‌زا علیه خود کاربران یا دیگران را تشویق می‌کند.
برنا برد، دادستان کل ایالت آیووا، این شرکت را متهم کرده است که با وجود معرفی چت‌بات خود به‌عنوان محصولی ایمن، در حفاظت از کاربران کوتاهی کرده است.
«OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید.»
برد گفت: «OpenAI ادعا می‌کند چت‌جی‌پی‌تی ایمن است، درحالی‌که این چت‌بات توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و به آن‌ها برای خودکشی راهنمایی می‌دهد؛ آن هم در شرایطی که وانمود می‌کند دوست آن‌هاست، درحالی‌که این دوستی واقعی نیست.»
او افزود: «هدف من از طرح این شکایت، حفاظت از کودکانمان و پاسخ‌گو کردن OpenAI بر اساس قوانین ایالتی ماست.»
این اتهام‌ها بار دیگر توجه‌ها را به نحوه واکنش چت‌بات‌های هوش مصنوعی هنگام گفت‌وگو با کاربران درباره موضوعات حساسی مانند سلامت روان، خودآزاری و خودکشی معطوف کرده است.
درو پوساتری، سخنگوی OpenAI، اعلام کرد که این شرکت در حال تلاش برای بهبود ایمنی محصولات خود است.
پوساتری در بیانیه‌ای گفت: «اگرچه هیچ سیستمی نمی‌تواند کاملاً بی‌نقص باشد، ما همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه‌های آن‌ها در فعالیت‌هایمان بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم. این تدابیر شامل قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران است که هم‌اکنون نیز در دسترس هستند.»
نگرانی‌های ایمنی درباره نسخه نوجوانان چت‌جی‌پی‌تی
شکایت‌های اخیر پس از انتقادهای پیشین درباره تأثیر چت‌جی‌پی‌تی بر کاربران کم‌سن‌وسال مطرح شده‌اند. OpenAI در ماه اوت نسخه ویژه نوجوانان چت‌جی‌پی‌تی را با هدف فراهم کردن تجربه‌ای متناسب‌تر با سن آن‌ها عرضه کرد.
بااین‌حال، این محصول ویژه نوجوانان نیز پس از آنکه مؤسسه ایمنی هوش مصنوعی جوانان وابسته به سازمان Common Sense Media درباره تدابیر حفاظتی آن ابراز نگرانی کرد، زیر ذره‌بین قرار گرفت.
این مؤسسه اعلام کرد که استفاده از محصول یادشده با «خطری غیرقابل‌قبول» همراه است و به OpenAI توصیه کرد تا زمانی که نتوانسته تجربه‌ای ایمن‌تر فراهم کند، بازاریابی آن برای نوجوانان را متوقف کند.
آزمایش‌های این مؤسسه نشان داد که چت‌بات حتی در گفت‌وگوهای طولانی که به‌صراحت درباره افکار خودکشی و خودآزاری بودند، هشدارهای لازم را برای والدین فعال نکرده است.
OpenAI پیش‌ازاین نیز با چندین شکایت حقوقی روبه‌رو شده بود که در آن‌ها ادعا می‌شد این شرکت از طریق چت‌بات خود نقش «مربی خودکشی» را ایفا کرده و در وقوع تیراندازی‌های جمعی نقش داشته است. همچنین جیمز اوتمایر، دادستان کل فلوریدا، در ماه ژوئن از این شرکت شکایت کرده و آن را به عرضه محصولی ناایمن متهم کرده بود که ممکن است به کاربران آسیب برساند.
افزایش نظارت و فشارها بر صنعت هوش مصنوعی
این اقدام حقوقی در شرایطی صورت می‌گیرد که شرکت‌های فعال در حوزه هوش مصنوعی از چند جهت تحت فشار قرار دارند. نگرانی درباره ایمنی کاربران، هزینه‌های توسعه مدل‌های قدرتمندتر و تردید درباره اینکه آیا سرمایه‌گذاری‌های سنگین این شرکت‌ها بازده مالی کافی خواهد داشت یا خیر، از مهم‌ترین چالش‌های پیش روی این صنعت است.
انتظار می‌رود OpenAI سال آینده وارد بازار سهام شود، هرچند پیش‌تر احتمال عرضه سهام این شرکت در اواخر سال ۲۰۲۶ نیز مطرح شده بود. هم‌زمان با ادامه سرمایه‌گذاری گسترده توسعه‌دهندگان هوش مصنوعی در زیرساخت‌های پردازشی، توجه‌ها بیش‌ازپیش به چشم‌انداز مالی OpenAI و توجیه اقتصادی فعالیت‌های صنعت هوش مصنوعی معطوف شده است.
این شکایت‌ها چالش تازه‌ای برای OpenAI و به‌تبع آن، مجموعه گسترده‌تر شرکت‌ها و فعالان صنعت هوش مصنوعی ایجاد کرده‌اند؛ صنعتی که در تلاش برای گسترش محصولات خود است، اما هم‌زمان با پرسش‌ها و نگرانی‌های فزاینده‌ای درباره ایمنی و قابلیت اطمینان این محصولات روبه‌رو شده است.