دادستان کل آریزونا با ادعای آسیب‌رسانی چت‌جی‌پی‌تی به کودکان از OpenAI شکایت کرد
فینیکس (KVOA) ــ ایالت آریزونا با طرح شکایتی علیه شرکت OpenAI مدعی شده است که چت‌بات هوش مصنوعی محبوب این شرکت به‌گونه‌ای طراحی شده که والدین را فریب می‌دهد و به کودکان آسیب می‌رساند.
بر اساس شکایتی که در دادگاه عالی شهرستان ماریکوپا ثبت شده است، کریس مایز، دادستان کل آریزونا، شرکت OpenAI را به نقض قانون مقابله با تقلب علیه مصرف‌کنندگان در این ایالت متهم کرده است.
در متن شکایت آمده است که OpenAI چت‌جی‌پی‌تی را به‌گونه‌ای طراحی کرده که «به‌شکلی غیرعادی با کاربران موافقت می‌کند» و «عامدانه طوری ساخته شده که دلسوزی و همدلی انسانی را وانمود کند». به ادعای شاکی، هدف از این طراحی، افزایش مدت‌زمان حضور کاربران زیر سن قانونی در این پلتفرم بوده است. مایز همچنین مدعی است که این شرکت در سال ۲۰۲۲ برای عرضه هرچه سریع‌تر محصول خود به بازار، سودآوری را بر ایمنی کاربران ترجیح داده و با وجود آگاهی از استفاده افراد کم‌سن‌وسال از این چت‌بات، تدابیر حفاظتی کافی را اجرا نکرده است.
مایز گفت: «OpenAI محصولی طراحی کرد که کاربران کم‌سن‌وسال را جذب کند و آن‌ها را تا جای ممکن درگیر نگه دارد تا بتواند حجم گسترده‌ای از اطلاعات شخصی‌شان را برای منافع تجاری خود جمع‌آوری کند. این شرکت با وجود نشانه‌های روشنی مبنی بر اینکه افراد زیر سن قانونی به‌طور مرتب با چت‌بات آن تعامل دارند، از اجرای تدابیر کافی برای حفاظت از کاربران و ایجاد شفافیت خودداری کرد و به این ترتیب، امنیت ساکنان آریزونا را به خطر انداخت. ما برای محافظت از کودکان آریزونا و پاسخ‌گو کردن این شرکت در قبال نقض مکرر قوانین ایالت، علیه OpenAI شکایت کرده‌ایم.»
بر اساس این شکایت، استفاده از چت‌جی‌پی‌تی می‌تواند کودکان و نوجوانان را با خطراتی از جمله تضعیف مهارت‌های تفکر انتقادی، تشویق به افکار هذیانی و دریافت توصیه‌های پزشکی خطرناک از منبعی فاقد مجوز حرفه‌ای روبه‌رو کند. مقام‌های ایالتی همچنین مدعی شده‌اند که این پلتفرم در برخی پاسخ‌های خود، کاربران را به خودآزاری یا خشونت تشویق کرده و افراد زیر سن قانونی را از برقراری ارتباط با والدینشان بازداشته است.
درو پوساتری، سخنگوی OpenAI، در بیانیه‌ای که در اختیار شبکه خبری News 4 Tucson قرار داد، از اقدامات ایمنی این شرکت دفاع کرد و گفت:
«ما تدابیر حفاظتی ویژه گروه‌های سنی مختلف را در محصول خود گنجانده‌ایم که از پیشرفته‌ترین نمونه‌ها در صنعت به شمار می‌روند و بسیاری از محصولات هوش مصنوعی دیگر فاقد آن‌ها هستند. هرچند هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه‌های آن‌ها در فعالیت‌های خود بهره بگیریم و سازوکارهای حفاظتی بیشتری ایجاد کنیم. کنترل‌های والدین، یادآوری برای استراحت و تدابیر حفاظتی متناسب با سن کاربران در مدل‌های ما، از جمله امکاناتی هستند که هم‌اکنون ارائه می‌شوند. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»
این سخنگو همچنین در بیانیه جداگانه‌ای درباره مسئله ناهمسویی رفتار مدل‌های هوش مصنوعی با اهداف و الزامات تعیین‌شده اعلام کرد:
«ما همچنان اطلاعات مربوط به اقدامات گسترده‌ای را که در واکنش به موارد ناهمسویی انجام داده‌ایم، منتشر خواهیم کرد. تدابیر حفاظتی را در سراسر سامانه‌های پژوهشی خود تقویت کرده‌ایم، بررسی جامع‌تری از فعالیت مدل‌ها را ادامه داده‌ایم، سازمان‌های تحت تأثیر را در جریان قرار داده‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
OpenAI همچنین اعلام کرد که چت‌جی‌پی‌تی برای افراد ۱۳ سال به بالا در نظر گرفته شده است و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین نیاز دارند. به گفته این شرکت، نوجوانان به‌طور میانگین روزانه کمتر از ۱۵ دقیقه از این پلتفرم استفاده می‌کنند و تدابیر حفاظتی پیش‌فرض آن با هدف کاهش مواجهه کاربران با محتوای صریح یا آسیب‌زا طراحی شده‌اند.
دفتر دادستان کل آریزونا از افرادی که گمان می‌کنند خودشان یا فرزندشان قربانی تقلب علیه مصرف‌کنندگان شده‌اند، خواسته است شکایت خود را از طریق وب‌سایت این دفتر ثبت کنند. ساکنان این ایالت همچنین می‌توانند در فینیکس با شماره 602-542-5763، در توسان با شماره 520-628-6648 و در مناطق خارج از محدوده‌های کلان‌شهری با شماره 800-352-8431 با دفتر دادستان کل تماس بگیرند.