موج شکایت‌ها علیه OpenAI به اتهام تشویق کودکان به خودآزاری از طریق ChatGPT
هشت ایالت آمریکا این هفته علیه OpenAI شکایت کردند. آن‌ها مدعی‌اند این شرکت فعال در حوزه هوش مصنوعی، ضمن کم‌اهمیت جلوه دادن خطرات فناوری خود، آسیب‌های شدیدی به کاربران وارد کرده است که بسیاری از آن‌ها زیر سن قانونی بوده‌اند.
این شکایت‌های هماهنگ روز چهارشنبه به‌صورت جداگانه در ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا ثبت شدند. در متن شکایت‌ها آمده است که OpenAI با معرفی گمراه‌کننده چت‌بات اصلی خود، ChatGPT، به‌عنوان محصولی ایمن برای مصرف‌کنندگان، مرتکب «رفتاری عامدانه، خطرناک، بی‌پروا و غیرقانونی» شده است. شاکیان می‌گویند این شرکت در حالی چنین ادعایی درباره ایمنی محصول خود مطرح کرده که ChatGPT کاربران، از جمله افراد زیر سن قانونی و دیگر اشخاص آسیب‌پذیر را به خودآزاری و خودکشی راهنمایی کرده، آن‌ها را به خشونت علیه دیگران سوق داده و باورهای هذیانی خطرناکشان را تقویت کرده است.
به گزارش شبکه NBC، برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.» او افزود: «OpenAI ادعا می‌کند ChatGPT ایمن است، در حالی که این چت‌بات توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و برای خودکشی به آن‌ها راهنمایی می‌دهد؛ آن هم در حالی که وانمود می‌کند دوست آن‌هاست، دوستی که واقعی نیست.»
OpenAI در واکنش به این شکایت‌ها، بیانیه‌ای در اختیار رسانه‌ها قرار داد و با تأکید بر تلاش‌های خود برای افزایش ایمنی محصولاتش اعلام کرد: «ما سازوکارهای حفاظتی متناسب با سن کاربران را در محصول خود گنجانده‌ایم که در صنعت پیشرو هستند و بسیاری از محصولات هوش مصنوعی دیگر از آن‌ها برخوردار نیستند.»
به گزارش گاردین، در ادامه این بیانیه آمده است: «اگرچه هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، ما همچنان با متخصصان همکاری خواهیم کرد تا از دانش آن‌ها در فعالیت‌های خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ همان‌طور که اکنون ابزارهای کنترل والدین، یادآوری زمان استراحت و سازوکارهای محافظتی متناسب با سن کاربران را فراهم کرده‌ایم.» این شرکت همچنین تأکید کرد: «ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط یک شرکت.»
این شکایت‌های ایالتی در حالی مطرح شده‌اند که OpenAI همچنان درگیر رسیدگی به بیش از ۵۰ پرونده قضایی دیگر است. در این پرونده‌ها ادعا شده که ChatGPT باعث آسیب‌های روانی، خسارت‌های مالی و اعتباری، صدمات جسمی و حتی مرگ کاربران شده است. بخش قابل‌توجهی از این شکایت‌ها را قربانیان کشتار تامبلر ریج در کانادا مطرح کرده‌اند. آن‌ها معتقدند OpenAI می‌توانست از وقوع این تیراندازی مرگبار و گسترده جلوگیری کند، اما چنین نکرد. به گفته شاکیان، این شرکت پیام‌های نگران‌کننده عامل تیراندازی را شناسایی کرده بود، اما تصمیم گرفت موضوع را به پلیس گزارش ندهد. استان بریتیش کلمبیای کانادا نیز به دلیل همین تیراندازی گسترده از OpenAI شکایت کرده است. علاوه بر این، شکایت‌های دیگری نیز در ارتباط با یک پرونده تعقیب و مزاحمت و یک پرونده قتل و خودکشی علیه این شرکت مطرح شده است.
به گزارش رویترز، در شکایت‌های این هشت ایالت به چند رخداد مهم و بحث‌برانگیز اخیر در زمینه ایمنی OpenAI نیز اشاره شده است؛ از جمله حمله‌ای که به پلتفرم Hugging Face نسبت داده می‌شود و اکنون به یکی از نمونه‌های شناخته‌شده مشکلات ایمنی تبدیل شده است. شاکیان همچنین خواستار توقف موقت فرایند «خودبهبوددهی بازگشتی» شده‌اند؛ فرایندی که در آن سامانه‌های هوش مصنوعی به‌طور مکرر توانایی‌های خود را ارتقا می‌دهند و بسیاری از کارشناسان ایمنی هوش مصنوعی نگران‌اند که به ایجاد سامانه‌هایی خارج از کنترل انسان منجر شود. با توجه به اینکه کاخ سفید در برابر وضع مقررات فدرال برای هوش مصنوعی مقاومت کرده است، این اقدام هماهنگ در سطح ایالت‌ها اهمیت ویژه‌ای دارد. این شکایت‌ها همچنین بازتاب‌دهنده افزایش حمایت عمومی از هر دو حزب اصلی آمریکا برای قانون‌گذاری و نظارت بر هوش مصنوعی است.