۸ ایالت آمریکا به اتهام آسیب‌رسانی چت‌جی‌پی‌تی به کودکان از OpenAI شکایت کردند؛ از درخواست حذف داده‌ها تا توقف آزمایش هوش مصنوعی
- هشت ایالت آمریکا با طرح شکایت علیه OpenAI مدعی شده‌اند که چت‌جی‌پی‌تی کاربران را به خودآزاری و خشونت تشویق کرده است.
- در این شکایت‌ها، OpenAI به گمراه‌کردن مصرف‌کنندگان درباره ایمنی چت‌جی‌پی‌تی متهم شده است.
- ایالت‌های شاکی خواستار جریمه‌های مالی، حذف اطلاعات کاربران، احراز سن و اعمال محدودیت بر آزمایش مدل‌های پیشرفته هوش مصنوعی شده‌اند.
گروهی از دادستان‌های کل ایالت‌های آمریکا، از هر دو حزب جمهوری‌خواه و دموکرات، روز چهارشنبه شکایت‌های جداگانه‌ای علیه OpenAI مطرح کردند. آن‌ها این شرکت را متهم کرده‌اند که درباره ایمنی چت‌جی‌پی‌تی به کاربران اطلاعات گمراه‌کننده داده و این چت‌بات را به‌گونه‌ای طراحی کرده است که ابتدا اعتماد کاربران را جلب کند و سپس باورهای هذیانی آن‌ها را تقویت کند یا زمینه رفتارهای خطرناک را فراهم آورد.
هشت ایالت آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی، علاوه بر متهم‌کردن OpenAI به گمراه‌کردن مصرف‌کنندگان درباره ایمنی چت‌جی‌پی‌تی، خواستار اعمال محدودیت‌های مختلفی شده‌اند؛ از محدودکردن آزمایش مدل‌های پیشرفته هوش مصنوعی گرفته تا حذف داده‌های کاربران.
در ادامه، خواسته‌های هر یک از این هشت ایالت در شکایت‌های مطرح‌شده بررسی شده است.
آریزونا
کریس مایز، دادستان کل آریزونا، مدعی است OpenAI با موافقت بیش‌ازحد با کاربران و شبیه‌سازی رفتار دلسوزانه، تلاش کرده اعتماد آن‌ها را جلب کند و به اطلاعات شخصی‌شان دسترسی پیدا کند.
مایز گفت: «OpenAI محصولی طراحی کرده که کاربران کم‌سن‌وسال را جذب کند و آن‌ها را تا جای ممکن درگیر نگه دارد تا بتواند حجم گسترده‌ای از اطلاعات شخصی‌شان را برای منافع تجاری شرکت جمع‌آوری کند.»
او افزود: «OpenAI با خودداری از اجرای تدابیر کافی برای حفاظت از کاربران و شفاف‌سازی درباره عملکرد محصولش، ایمنی ساکنان آریزونا را به خطر انداخته است.»
بر اساس شکایت ثبت‌شده، آریزونا خواستار جریمه‌ای تا سقف ۱۰ هزار دلار برای هر مورد تخلف عمدی است. این ایالت همچنین می‌خواهد استقرار یا آزمایش مدل‌های پیشرفته OpenAI در محیط‌هایی غیر از محیط‌های امنی که ایمنی آن‌ها به‌طور مستقل تأیید شده است، ممنوع شود. درخواست دیگر آریزونا، الزام شرکت به گزارش فوری مواردی است که مدل‌های هوش مصنوعی از سازوکارهای کنترلی خارج می‌شوند یا بدون مجوز به سامانه‌ها دسترسی پیدا می‌کنند.
آرکانزاس
تیم گریفین، دادستان کل آرکانزاس، مدعی است OpenAI در حالی که به مصرف‌کنندگان اطمینان می‌داده چت‌جی‌پی‌تی ایمن است، خطرات شناخته‌شده آن را پنهان کرده و اطلاعات شخصی نوجوانان را نیز به‌صورت غیرقانونی جمع‌آوری کرده است.
گریفین در بیانیه‌ای گفت: «OpenAI به ما اطمینان می‌دهد که چت‌جی‌پی‌تی ایمن است. نتیجه این اطمینان‌بخشی، جان‌باختن انسان‌ها و آسیب‌دیدن افراد بوده است.»
آرکانزاس خواستار اعمال جریمه‌های مالی و صدور حکم قضایی برای جلوگیری از جمع‌آوری اطلاعات نوجوانان است. این ایالت همچنین می‌خواهد تا زمان فراهم‌شدن تدابیر حفاظتی کافی، آزمایش‌های بیشتر هوش مصنوعی پیشرفته و ساخت مدل‌هایی که توانایی بهبود مکرر و مستقل عملکرد خود را دارند، متوقف شود.
آیداهو
رائول لابرادور، دادستان کل آیداهو، مدعی است OpenAI ضمن گمراه‌کردن مصرف‌کنندگان درباره ایمنی چت‌جی‌پی‌تی، زمینه تشویق به خودآزاری و خشونت، تقویت باورهای هذیانی و ارائه توصیه‌های پزشکی خطرناک را فراهم کرده است.
لابرادور روز چهارشنبه در بیانیه‌ای گفت: «ایمنی کودکان آیداهو نباید در برابر سودجویی بی‌مهار یا پیشرفت‌های فناوری به موضوعی فرعی تبدیل شود.»
آیداهو در شکایت خود خواستار جریمه ۵ هزار دلاری برای هر مورد نقض قوانین حمایت از مصرف‌کننده و اجرای تدابیر حفاظتی با حکم دادگاه شده است. این تدابیر شامل احراز سن کاربران و محدودکردن قابلیت‌های آسیب‌زا یا اعتیادآور می‌شود. این ایالت همچنین می‌خواهد آزمایش و استقرار مدل‌های پیشرفته هوش مصنوعی تنها در محیط‌های امنی مجاز باشد که ایمنی آن‌ها به‌طور مستقل تأیید شده است.
آیووا
ایالت آیووا مدعی است OpenAI درباره ایمنی چت‌جی‌پی‌تی به مصرف‌کنندگان اطلاعات گمراه‌کننده داده و خطرات مرتبط با عامل‌های هوش مصنوعی خودمختار را پنهان کرده است.
این ایالت برای جبران تخلفات ادعایی، خواستار آن شده است که OpenAI تمام اطلاعات مربوط به ساکنان آیووا را که پیش از صدور حکم دادگاه جمع‌آوری کرده، حذف و نابود کند. آیووا همچنین خواهان بازپرداخت وجوه به مصرف‌کنندگان و جریمه‌ای تا سقف ۴۰ هزار دلار برای هر مورد کلاهبرداری از مصرف‌کننده است. افزون بر این، برای تخلفاتی که افراد ۶۰ ساله و بالاتر را هدف قرار داده‌اند، جریمه‌ای تا سقف ۵ هزار دلار درخواست کرده است.
آیووا همچنین از دادگاه خواسته است آزمایش‌های بیشتر مدل‌های پیشرفته هوش مصنوعی را تا زمانی متوقف کند که ایمنی تدابیر حفاظتی به‌طور مستقل تأیید شود، مشخص شود این مدل‌ها خطری برای عموم مردم ایجاد نمی‌کنند و ناظران شخص ثالث نیز این موضوع را تأیید کنند.
کانزاس
کریس کوبک، دادستان کل کانزاس، اعلام کرده است که OpenAI مصرف‌کنندگان را درباره ایمنی چت‌جی‌پی‌تی فریب داده و قابلیت‌هایی طراحی کرده است که کاربران را به استفاده وسواس‌گونه و مداوم از این محصول سوق می‌دهد.
در متن شکایت آمده است: «خواندگان این محصولات را به‌گونه‌ای طراحی کرده‌اند که مصرف‌کنندگان از ماهیت واقعی آن‌ها بی‌اطلاع بمانند.»
کانزاس خواستار جریمه ۱۰ هزار دلاری برای هر مورد نقض قوانین حمایت از مصرف‌کننده و جریمه ۲۰ هزار دلاری برای هر تخلف مرتبط با مصرف‌کنندگان مشمول حمایت‌های ویژه قانونی است. این ایالت همچنین درخواست کرده است وجوه دریافت‌شده از مصرف‌کنندگان کانزاس بازگردانده شود و دادگاه با صدور حکمی دائمی، OpenAI را از ادامه اقدامات فریبکارانه و غیرمنصفانه منع کند.
مونتانا
در شکایتی که آستین نادسن، دادستان کل مونتانا، مطرح کرده است، این ایالت مدعی شده OpenAI مصرف‌کنندگان را درباره ایمنی چت‌جی‌پی‌تی فریب داده و مقررات حفاظت از حریم خصوصی را نقض کرده است؛ از جمله با جمع‌آوری اطلاعات کودکان بدون دریافت رضایت قانونی لازم.
مونتانا در دادخواست خود خواستار جریمه ۱۰ هزار دلاری برای هر مورد نقض قوانین حمایت از مصرف‌کننده و ۷ هزار و ۵۰۰ دلار برای هر مورد نقض حریم خصوصی شده است. این ایالت همچنین می‌خواهد OpenAI بر اساس قانون حریم خصوصی مونتانا ملزم شود اطلاعات شخصی را که به‌صورت غیرقانونی به دست آورده، حذف کند.
مونتانا همچنین درخواست کرده است در صورت خروج دوباره یک عامل هوش مصنوعی از کنترل، OpenAI موظف باشد دفتر دادستان کل را مطلع کند. محدودکردن آزمایش مدل‌های پیشرفته به محیط‌های امنی که ایمنی آن‌ها به‌طور مستقل تأیید شده است، از دیگر خواسته‌های این ایالت به شمار می‌رود.
نبراسکا
مایک هیلگرز، دادستان کل نبراسکا، در شکایت خود مدعی است OpenAI خانواده‌ها را درباره ایمنی چت‌جی‌پی‌تی گمراه کرده و نتوانسته از کودکان در برابر محتوای آسیب‌زا و وابستگی عاطفی محافظت کند.
بر اساس این دادخواست، نبراسکا خواستار جریمه ۵۰ هزار دلاری برای هر مورد نقض قانون طراحی متناسب با سن و جریمه ۲ هزار دلاری برای هر مورد نقض قوانین حمایت از مصرف‌کننده و مقابله با رویه‌های تجاری فریبکارانه است.
نبراسکا همچنین از دادگاه می‌خواهد OpenAI را ملزم کند ابزارهایی در دسترس و ساده برای محدودکردن مدت استفاده کاربران از چت‌جی‌پی‌تی فراهم کند. ارائه امکانات کافی برای کنترل والدین، احراز سن کاربران و حفاظت از اطلاعات شخصی افراد زیر سن قانونی نیز از دیگر خواسته‌های این ایالت است.
ویرجینیای غربی
جان مک‌کاسکی، دادستان کل ویرجینیای غربی، در شکایت خود عمدتاً مدعی شده است که OpenAI مصرف‌کنندگان را گمراه کرده و با ایجاد وضعیتی زیان‌بار برای عموم، ایمنی کودکان را به خطر انداخته است.
این ایالت برای رفع مشکلات مطرح‌شده خواستار احراز سن کاربران، ارائه ابزارهای کنترل والدین، اعمال محدودیت‌های پیش‌فرض بر مدت هر نوبت استفاده کودکان و استفاده آن‌ها در ساعات شب، اجرای اجباری سازوکارهای ارجاع موارد بحرانی به خدمات تخصصی و تعیین ناظر مستقل است. ویرجینیای غربی همچنین می‌خواهد OpenAI هزینه اجرای طرحی تحت نظارت دادگاه را تأمین کند که هدف آن تقویت توان پاسخ‌گویی به بحران‌های مرتبط با نوجوانان و آموزش ایمنی دیجیتال در مدارس دولتی است.
علاوه بر این، ویرجینیای غربی خواستار جریمه ۵ هزار دلاری برای هر مورد تکرار نقض قوانین حمایت از مصرف‌کننده شده است. این ایالت همچنین درخواست کرده اطلاعات شخصی افراد زیر سن قانونی ساکن ویرجینیای غربی که به ادعای آن به‌صورت غیرقانونی جمع‌آوری شده‌اند، حذف شوند و استفاده از این اطلاعات نیز متوقف شود.