شکایت ۸ ایالت آمریکا از OpenAI به‌دلیل نگرانی درباره ایمنی ChatGPT
در این شکایت‌ها، غول هوش مصنوعی به گمراه کردن والدین درباره خطرات ChatGPT برای کودکان متهم شده و برخی ایالت‌ها خواستار محدودیت در توسعه هوش مصنوعی پیشرفته شده‌اند.
نویسنده: ای. جی. کتز
هشت ایالت آمریکا روز چهارشنبه علیه شرکت OpenAI شکایت کردند. آن‌ها سازنده ChatGPT را متهم کرده‌اند که با ارائه اطلاعات گمراه‌کننده به والدین درباره ایمنی این چت‌بات، کودکان و دیگر کاربران آسیب‌پذیر را در معرض توصیه‌های خطرناک و تعاملات آسیب‌زا قرار داده است.
دادستان‌های کل ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا هرکدام شکایت جداگانه‌ای علیه OpenAI تنظیم کرده‌اند و مدعی شده‌اند که این شرکت قوانین حمایت از مصرف‌کنندگان را در ایالت‌هایشان نقض کرده است. این ایالت‌ها خواستار اعمال جریمه‌های مالی و اصلاح شیوه‌های ایمنی OpenAI هستند. در این میان، ایالت آرکانزاس همچنین خواستار محدود شدن آزمایش هوش مصنوعی پیشرفته و توسعه مدل‌هایی است که قابلیت بهبود خودکار دارند؛ محدودیت‌هایی که قرار است تا زمان اجرای تدابیر حفاظتی بیشتر ادامه یابند.
در این شکایت‌ها ادعا شده است که OpenAI چت‌بات ChatGPT را به‌گونه‌ای طراحی کرده که وابستگی عاطفی کاربران را تقویت می‌کند و باورهای هذیانی آن‌ها را تأیید و تشدید می‌کند. شاکیان همچنین معتقدند این شرکت با ارائه تصویری گمراه‌کننده از خطرات تعامل با چت‌باتی که روابط انسانی را تقلید می‌کند، کاربران را از خطرات واقعی آن آگاه نکرده است. در متن شکایت‌ها همچنین آمده که ChatGPT توصیه‌های پزشکی خطرناک و دستورالعمل‌هایی مرتبط با خودآزاری و خشونت ارائه کرده است.
برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید. این شرکت ادعا می‌کند ChatGPT ایمن است، در حالی که این چت‌بات توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و به آن‌ها برای خودکشی راهنمایی می‌دهد؛ آن هم در حالی که وانمود می‌کند دوست آن‌هاست، دوستی که واقعی نیست.»
OpenAI پیش‌تر قابلیت‌های کنترل والدین، تدابیر حفاظتی متناسب با سن کاربران و یادآورهایی برای جلوگیری از استفاده طولانی‌مدت از چت‌بات را معرفی کرده است. این شرکت از اقدامات ایمنی خود دفاع کرده و گفته است که همچنان برای بهبود سازوکارهای حفاظتی تلاش می‌کند.
OpenAI پیش از این نیز با شکایت‌هایی از سوی افراد و خانواده‌هایی روبه‌رو شده که مدعی‌اند ChatGPT در بروز بحران‌های روانی و مرگ‌های ناشی از خودکشی نقش داشته است. شکایت‌های جدید در شرایطی مطرح شده‌اند که نظارت و بررسی عملکرد چت‌بات‌های هوش مصنوعی، به‌ویژه نحوه تعامل آن‌ها با افراد زیر سن قانونی، شدت گرفته است. راب بونتا، دادستان کل کالیفرنیا، ماه گذشته به نشریه TheWrap گفته بود که دفتر او به‌دلیل نگرانی‌های مربوط به ایمنی هوش مصنوعی، فعالیت‌های OpenAI و Anthropic را با دقت بررسی می‌کند.
OpenAI به درخواست نشریه TheWrap برای اظهارنظر درباره این شکایت‌ها بلافاصله پاسخی نداد.