شکایت هشت ایالت آمریکا از OpenAI به دلیل خطرات ایمنی ChatGPT برای کودکان و نوجوانان
دادستان‌های کل هشت ایالت آمریکا شامل آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی، شکایت‌هایی جداگانه اما هماهنگ علیه شرکت OpenAI در دادگاه‌های ایالتی مطرح کرده‌اند. آن‌ها مدعی‌اند این شرکت ChatGPT را ابزاری ایمن معرفی کرده، در حالی که درباره خطرات احتمالی آن، به‌ویژه برای افراد آسیب‌پذیر از جمله کودکان و نوجوانان، هشدارهای کافی ارائه نداده است. شاکیان خواستار اعمال جریمه‌های مدنی، پرداخت خسارت و صدور احکام قضایی برای ملزم کردن شرکت به تقویت تدابیر ایمنی این چت‌بات شده‌اند.
این اقدام حقوقی پس از شکایتی صورت گرفته که ایالت فلوریدا طی ماه‌های اخیر علیه OpenAI مطرح کرده بود. در شکایت‌های جدید، اتهامات گسترده‌تری نیز درباره نقض قوانین حمایت از مصرف‌کنندگان و الزامات مربوط به حریم خصوصی و ایمنی دیجیتال کودکان و نوجوانان مطرح شده است.
محتوای آسیب‌زا و روش‌های دور زدن فیلترهای ایمنی
یکی از محورهای اصلی این شکایت‌ها، ادعای ناتوانی ChatGPT در جلوگیری از پاسخ‌گویی به درخواست‌هایی است که ممکن است به تولید محتوای آسیب‌زا منجر شوند. بر اساس اتهاماتی که تیم گریفین، دادستان کل آرکانزاس، مطرح کرده است، برخی نوجوانان ظاهراً توانسته‌اند از این سامانه دستورالعمل‌های دقیقی درباره آسیب رساندن به خود و رفتارهای مرتبط با خودکشی دریافت کنند.
در اسناد ارائه‌شده به دادگاه ادعا شده است که می‌توان با استفاده از روش‌های دست‌کاری متن، سازوکارهای حفاظتی معرفی‌شده از سوی OpenAI را دور زد و از این طریق محتوای بالقوه خطرناک تولید کرد. با این حال، این موارد در حال حاضر صرفاً اتهاماتی هستند که در شکایت‌ها مطرح شده‌اند و هنوز به‌عنوان واقعیت‌های اثبات‌شده مورد تأیید قطعی قرار نگرفته‌اند.
ایالت آیووا نیز OpenAI را به نقض قانون مقابله با تقلب علیه مصرف‌کنندگان این ایالت متهم کرده است. یکی از محورهای این اتهام، تمایل این برنامه به شبیه‌سازی همدلی انسانی به شیوه‌ای است که ممکن است باعث شکل‌گیری رابطه‌ای مبتنی بر اعتماد میان کاربران و چت‌بات شود. برنا برد، دادستان کل آیووا، اقداماتی را که به گفته او مصداق شیوه‌های تجاری فریبکارانه این شرکت هستند، مورد انتقاد قرار داده است.
برد گفت: «OpenAI ادعا می‌کند ChatGPT ایمن است، در حالی که این سامانه توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و برای خودکشی به آن‌ها راهنمایی می‌دهد؛ آن هم در شرایطی که وانمود می‌کند دوست صمیمی آن‌هاست، در حالی که چنین دوستی واقعی نیست.»
مایک هیلگرز، دادستان کل نبراسکا، تأکید کرده است که هدف از این اقدام حقوقی، مانع‌تراشی در مسیر توسعه فناوری آمریکا در رقابت جهانی برای پیشتازی در حوزه هوش مصنوعی نیست. به گفته او، هدف این است که صنعت هوش مصنوعی نیز مانند سایر فعالان بازار، ملزم به رعایت همان استانداردهای پاسخ‌گویی و شفافیت باشد.
حفاظت از کودکان و نوجوانان در عصر هوش مصنوعی
این شکایت‌ها بازتاب‌دهنده نگرانی‌هایی دیرینه درباره ایمنی در فضای آنلاین و محدودیت‌های سازوکارهای موجود برای حفاظت از کودکان و نوجوانان هستند. قانون فدرال حفاظت از حریم خصوصی آنلاین کودکان (COPPA) که در سال ۱۹۹۸ تصویب شد، با هدف محدود کردن جمع‌آوری اطلاعات شخصی کودکان زیر ۱۳ سال بدون مجوز لازم تدوین شده بود.
با ظهور هوش مصنوعی مولد، نگرانی‌های تازه‌ای نیز درباره قرار گرفتن کودکان و نوجوانان در معرض گفت‌وگوهای متقاعدکننده تولیدشده توسط هوش مصنوعی و احتمال شکل‌گیری رابطه‌ای مبتنی بر اعتماد میان کاربران و چت‌بات‌ها ایجاد شده است. شکایت‌های اخیر، میزان کارآمدی تدابیر حفاظتی موجود در برابر چنین خطراتی را، به‌ویژه در مورد کاربران آسیب‌پذیر، زیر سؤال برده‌اند.
رسیدگی به این پرونده‌ها مشخص خواهد کرد که آیا ادعاهای ایالت‌های شاکی درباره ناکافی بودن تدابیر ایمنی و اطلاع‌رسانی OpenAI و همچنین نقض الزامات قانونی حمایت از مصرف‌کنندگان در عملکرد این شرکت، از نظر حقوقی قابل اثبات هستند یا خیر.