آیا ChatGPT به کودکان آسیب می‌زند؟ هشت ایالت آمریکا از OpenAI شکایت کردند و خواستار تدابیر حفاظتی قوی‌تر شدند
شکایت از OpenAI: ائتلافی دوحزبی متشکل از هشت ایالت آمریکا، طبق گزارش‌ها از OpenAI شکایت کرده و این شرکت هوش مصنوعی را متهم کرده است که کاربران را درباره ایمنی ChatGPT گمراه کرده و برای مقابله با خودآزاری، خودکشی و خشونت، تدابیر حفاظتی کافی در نظر نگرفته است.
دادستان‌های کل این ایالت‌ها روز چهارشنبه در دادگاه‌های ایالتی مربوط به خود شکایت‌هایی را مطرح کردند. آنها از دادگاه‌ها خواسته‌اند OpenAI را ملزم کنند رویه‌های ایمنی خود را تغییر دهد، حفاظت از کودکان را تقویت کند و به ایالت‌ها خسارت بپردازد؛ خبرگزاری ANI این موضوع را گزارش کرده است.
این ائتلاف شامل آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی است. طبق این گزارش، دادستان‌های کل همه این ایالت‌ها به‌جز آریزونا جمهوری‌خواه هستند.
شکایت‌ها چه ادعاهایی را مطرح کرده‌اند؟
در این شکایت‌ها ادعا شده است که OpenAI مدل‌های هوش مصنوعی هرچه قدرتمندتری را بدون تدابیر حفاظتی یا آزمایش‌های کافی عرضه کرده است؛ این در حالی بوده که کارکنان شرکت درباره خطرات هشدار داده بودند و مدیران آن نیز علناً وجود این خطرات را پذیرفته بودند.
در متن شکایتی که در آرکانزاس مطرح شده، آمده است: «OpenAI می‌دانست محصولاتی با این میزان قدرت به تدابیر حفاظتی معناداری نیاز دارند. مدیران شرکت علناً به خطرات اذعان کردند و کارکنان آن بارها نگرانی‌های جدی درباره ایمنی را مطرح کردند.» این شکایت، به گزارش پولیتیکو، همچنین مدعی شده است که با افزایش نگرانی‌ها، شرکت رشد و سود را بر ایمنی ترجیح داده است.
برنا برد، دادستان کل آیووا، نیز از تدابیر ایمنی شرکت انتقاد کرد و مدعی شد ChatGPT توصیه‌های پزشکی خطرناک ارائه داده و رفتارهای آسیب‌زا را تشویق کرده است.
برد در بیانیه‌ای که پولیتیکو از آن نقل کرده است، گفت: «OpenAI ادعا می‌کند ChatGPT ایمن است، در حالی که این سامانه توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و به افراد برای خودکشی راهنمایی می‌دهد؛ آن هم در حالی که وانمود می‌کند دوست جعلی آنهاست.»
پاسخ سخنگوی OpenAI چه بود؟
درو پوزاتری، سخنگوی OpenAI، در واکنش به این شکایت‌ها گفت این شرکت تدابیری را بر اساس سن کاربران ایجاد کرده و همچنان برای بهبود اقدامات ایمنی خود تلاش خواهد کرد؛ ANI این اظهارات را گزارش کرده است.
پوزاتری در بیانیه‌ای که در این گزارش به آن استناد شده، گفت: «با وجود اینکه هیچ سامانه‌ای نمی‌تواند کامل باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا فعالیت‌هایمان را هدایت کنیم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله کنترل‌های والدین، یادآورهای استراحت و حفاظت‌های متناسب با سن که هم‌اکنون وجود دارند.»
او افزود که این شرکت متعهد است با ایالت‌ها برای تدوین سیاست‌های عملی در حوزه هوش مصنوعی که در سراسر این صنعت قابل اجرا باشند، همکاری کند.
این اقدام حقوقی جدید در شرایطی صورت گرفته است که ایمنی هوش مصنوعی در آمریکا با بررسی‌های گسترده‌تری روبه‌رو شده است. پولیتیکو گزارش داده است که جیمز اوت‌مایر، دادستان کل فلوریدا، نیز در ماه ژوئن شکایتی جداگانه علیه OpenAI مطرح کرده و در ماه سپتامبر در همان پرونده خواستار صدور دستور قضایی برای متوقف کردن توسعه فناوری این شرکت شده است.
طبق این گزارش، چند ایالت دیگر از جمله آلاباما، کالیفرنیا، مونتانا و نیومکزیکو نیز در حال بررسی OpenAI به دلیل نگرانی‌های مربوط به ایمنی و امنیت هوش مصنوعی هستند.
این شکایت‌ها فشارهای نظارتی بر این شرکت را افزایش می‌دهند و ایالت‌ها خواستار اعمال تغییرات الزام‌آور قانونی در رویه‌های ایمنی OpenAI و تقویت حفاظت از کاربران، به‌ویژه کودکان، هستند.
(با استفاده از گزارش‌های ANI)