دادستان کل آیووا از طرح شکایت علیه OpenAI خبر داد
به گزارش ای‌بی‌سی ۶ نیوز، برنا برد، دادستان کل ایالت آیووا، اعلام کرد به دلیل آنچه آسیب‌رساندن چت‌جی‌پی‌تی به کودکان، گمراه‌کردن والدین و نقض قانون مقابله با تقلب علیه مصرف‌کنندگان عنوان شده، از شرکت OpenAI شکایت کرده است.
برد روز چهارشنبه در یک نشست خبری در شهر دموین، مرکز ایالت آیووا، از طرح این شکایت خبر داد. به گفته او، در این پرونده OpenAI به آسیب‌رساندن به کودکان آیووا، فریب والدین و نقض قانون مقابله با تقلب علیه مصرف‌کنندگان این ایالت متهم شده است.
دادستان کل آیووا گفت: «OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید.»
برد اظهار داشت که OpenAI چت‌جی‌پی‌تی را ابزاری ایمن معرفی می‌کند، اما مقام‌های ایالتی معتقدند این سامانه توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب‌رساندن به دیگران تشویق می‌کند و حتی برای خودکشی به کاربران راهنمایی می‌دهد.
او در توضیح این اتهام‌ها گفت: «OpenAI ادعا می‌کند چت‌جی‌پی‌تی ایمن است، در حالی که این سامانه توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب‌رساندن به دیگران تشویق می‌کند و برای خودکشی به آن‌ها راهنمایی می‌دهد؛ آن هم در شرایطی که وانمود می‌کند دوستی صمیمی و دلسوز برای آن‌هاست. هدف من از طرح این شکایت، محافظت از کودکانمان و پاسخ‌گو کردن OpenAI در چارچوب قوانین ایالتی است.»
بر اساس اعلام دفتر دادستان کل آیووا، شرکت OpenAI چت‌جی‌پی‌تی را در سال ۲۰۲۲ عرضه کرد. این دفتر می‌گوید چت‌جی‌پی‌تی اکنون محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار چت‌بات‌ها در آمریکا را در اختیار دارد.
ایالت‌های آرکانزاس، آریزونا، آیداهو و مونتانا نیز پیش‌تر در دادگاه‌های ایالتی خود علیه OpenAI شکایت کرده‌اند. دفتر برد اعلام کرد هدف از شکایت آیووا، وادار کردن این شرکت به رعایت قانون مقابله با تقلب علیه مصرف‌کنندگان ایالت و متوقف کردن فعالیت‌های خطرناک است.
در اطلاعیه مربوط به این شکایت همچنین ادعا شده است که چت‌جی‌پی‌تی به‌گونه‌ای طراحی شده که بیش از اندازه با کاربران موافقت کند و به‌ظاهر احساس همدلی و دلسوزی انسانی نشان دهد. به گفته دفتر دادستان کل، چنین ویژگی‌هایی می‌تواند این چت‌بات را برای کاربران آسیب‌پذیر، از جمله کودکان، خطرناک کند.
دفتر دادستان کل آیووا همچنین اعلام کرد شمار فزاینده‌ای از پژوهش‌ها حاکی از آن است که چت‌جی‌پی‌تی به مهارت‌های تفکر انتقادی آسیب می‌رساند، افکار بدبینانه و هذیان‌گونه را تقویت می‌کند، توصیه‌های پزشکی خطرناک ارائه می‌دهد و رفتارها و روابط ناسالم را ترویج می‌کند.
در این اطلاعیه همچنین ادعا شده است که OpenAI به‌تازگی پذیرفته برخی از مدل‌های پیشرفته این شرکت از کنترل خارج شده‌اند. طبق این ادعا، زمانی که عامل‌های هوش مصنوعی این مدل‌ها در اینترنت به کار گرفته شدند، به‌طور غیرقانونی به سامانه‌های شرکت‌های دیگر نفوذ کردند و برای دروغ گفتن و فریب کاربران انسانی خود با یکدیگر هماهنگ شدند. هدف از این شکایت، مقابله با رفتارهایی است که برد آن‌ها را عمدی، خطرناک، بی‌پروا و غیرقانونی توصیف کرده و معتقد است بر ساکنان آیووا تأثیر می‌گذارند.
شبکه ای‌بی‌سی ۶ نیوز برای دریافت واکنش OpenAI به این شکایت با شرکت تماس گرفت. یکی از سخنگویان OpenAI در بیانیه‌ای درباره ایمنی چت‌جی‌پی‌تی اعلام کرد:
«ما تدابیر حفاظتی متناسب با گروه‌های سنی مختلف را در محصول خود به کار گرفته‌ایم که در سطح صنعت پیشرو هستند و بسیاری از محصولات دیگر هوش مصنوعی از آن‌ها برخوردار نیستند. هرچند هیچ سامانه‌ای نمی‌تواند کاملاً بی‌نقص باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا از دیدگاه‌ها و یافته‌های آن‌ها در بهبود عملکرد خود بهره ببریم و تدابیر ایمنی بیشتری ایجاد کنیم. کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران در مدل‌ها، از جمله امکاناتی هستند که هم‌اکنون ارائه می‌شوند. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»
این سخنگو همچنین در پاسخ به پرسش ای‌بی‌سی ۶ نیوز درباره مواردی که رفتار سامانه با اهداف و دستورالعمل‌های تعیین‌شده همسو نبوده است، بیانیه زیر را ارسال کرد:
«ما تدابیر حفاظتی متناسب با گروه‌های سنی مختلف را در محصول خود به کار گرفته‌ایم که در سطح صنعت پیشرو هستند و بسیاری از محصولات دیگر هوش مصنوعی از آن‌ها برخوردار نیستند. هرچند هیچ سامانه‌ای نمی‌تواند کاملاً بی‌نقص باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا از دیدگاه‌ها و یافته‌های آن‌ها در بهبود عملکرد خود بهره ببریم و تدابیر ایمنی بیشتری ایجاد کنیم. کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران در مدل‌ها، از جمله امکاناتی هستند که هم‌اکنون ارائه می‌شوند. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»