هشت ایالت آمریکا از OpenAI شکایت کردند؛ اتهام به خطر انداختن امنیت کودکان با ChatGPT
دادستان‌های کل هشت ایالت آمریکا روز ۱۴ اکتبر ۲۰۲۶ در اقدامی هماهنگ، شکایت‌هایی جداگانه علیه شرکت OpenAI مطرح کردند. آن‌ها این شرکت را متهم کرده‌اند که ChatGPT را به‌گونه‌ای طراحی کرده است که با ایجاد ارتباط عاطفی با کاربران، آن‌ها را به ادامه تعامل ترغیب می‌کند؛ ویژگی‌ای که به ادعای شاکیان، کودکان را در معرض خطر قرار می‌دهد. چندین رسانه از این اقدام به‌عنوان نخستین شکایت حقوقی هماهنگ و فراحزبی چند ایالت آمریکا علیه یک شرکت هوش مصنوعی با محوریت امنیت کودکان یاد کرده‌اند. اگر دادگاه‌ها حتی به نفع چند ایالت رأی دهند، نتایج این پرونده‌ها ممکن است بر نحوه طراحی و بازاریابی محصولات هوش مصنوعی برای افراد زیر سن قانونی، حتی در خارج از این هشت ایالت، تأثیر بگذارد.
اتهامات مطرح‌شده از سوی ایالت‌ها چیست؟
ائتلافی فراحزبی از دادستان‌های کل آمریکا، OpenAI را متهم کرده است که افزایش تعامل کاربران با ChatGPT را بر سلامت و رفاه کودکان ترجیح می‌دهد.
ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا هرکدام شکایت خود را در دادگاه‌های ایالتی ثبت کرده‌اند. این شکایت‌ها به‌جای آنکه در قالب یک پرونده واحد فدرال مطرح شوند، بر قوانین حمایت از مصرف‌کنندگان در هر ایالت استوارند. به گزارش شبکه CNBC از متن شکایت‌ها، شاکیان رفتار ChatGPT را مصداق «اقداماتی عمدی، خطرناک، بی‌پروا و غیرقانونی» توصیف کرده‌اند.
محور اصلی استدلال حقوقی این ایالت‌ها، نحوه طراحی ChatGPT است. شاکیان مدعی‌اند این چت‌بات به‌گونه‌ای طراحی شده که با کاربران بیش از حد موافقت کند و رفتاری شبیه به همدلی و دلسوزی انسان نشان دهد؛ ویژگی‌هایی که به اعتقاد آن‌ها می‌تواند در افراد زیر سن قانونی وابستگی ناسالم ایجاد کند. در این شکایت‌ها همچنین درباره جمع‌آوری اطلاعات کاربران کم‌سن‌وسال و کافی بودن اقدامات OpenAI برای جلوگیری از دسترسی افراد زیر سن قانونی به این سرویس ابراز نگرانی شده است.
مهم‌ترین آسیب‌های ادعایی مطرح‌شده در این شکایت‌ها عبارت‌اند از:
- تشویق به خودآزاری و تأیید احتمالی افکار خودکشی کاربران، بدون هدایت آن‌ها به دریافت کمک تخصصی.
- ارائه توصیه‌های پزشکی خطرناک، از جمله پیشنهاد ترکیب داروهایی که مصرف هم‌زمان آن‌ها می‌تواند زیان‌آور باشد.
- تقویت افکار بدبینانه شدید یا باورهای هذیانی در کاربران آسیب‌پذیر.
- تضعیف احتمالی توانایی تفکر انتقادی کاربران به دلیل موافقت بیش از حد چت‌بات با گفته‌های آن‌ها.
- جمع‌آوری اطلاعات شخصی افراد زیر سن قانونی بدون احراز سن کافی یا دریافت رضایت والدین.
تمام این موارد در شکایت‌هایی مطرح شده‌اند که هنوز در دادگاه مورد رسیدگی و اثبات قرار نگرفته‌اند. تاکنون هیچ‌یک از این ادعاها با حکم قضایی تأیید نشده است.
بر اساس گزارش‌ها، در چند مورد از شکایت‌ها به پرونده‌هایی اشاره شده که در آن‌ها ChatGPT ظاهراً نتوانسته کاربران گرفتار بحران روانی را به منابع حمایتی و خدمات سلامت روان ارجاع دهد. ایالت‌های شاکی استدلال می‌کنند که OpenAI در تبلیغات خود، ChatGPT را محصولی ایمن معرفی کرده، در حالی که طراحی این محصول به ادعای آن‌ها رفتارهایی مغایر با این ادعا را تشویق کرده است.
«امروز در شهر دموین اعلام کردم که به دلیل گمراه کردن مردم کانزاس درباره ایمنی ChatGPT، علیه OpenAI شکایت کرده‌ایم. در حالی که کنگره بیش از یک سال است درباره هوش مصنوعی بحث و بررسی می‌کند، OpenAI آسیب‌های قابل‌توجهی به شهروندان ما وارد کرده است. دادستان‌های کل ایالت‌ها این اختیار را دارند که…»
پاسخ OpenAI چیست و چه پیامدهایی در انتظار این شرکت است؟
OpenAI به تدابیر حفاظتی موجود در محصولات خود اشاره می‌کند، اما پیامدهای حقوقی این شکایت‌ها ممکن است بسیار فراتر از هشت ایالت شاکی باشد.
به گزارش CNBC، درو پوساتری، سخنگوی OpenAI، اعلام کرده است که این شرکت تدابیر حفاظتی متناسب با سن کاربران را در محصولات خود به کار گرفته که بسیاری از محصولات هوش مصنوعی رقیب فاقد آن‌ها هستند. OpenAI از ابزارهای کنترل والدین، یادآوری برای استراحت و سازوکارهای ایمنی متناسب با گروه‌های سنی مختلف به‌عنوان نمونه‌هایی از این اقدامات نام برده است. با این حال، شرکت اذعان کرده که هیچ سامانه‌ای نمی‌تواند کاملاً بی‌نقص باشد. OpenAI همچنین اعلام کرده از سیاست‌گذاری واقع‌بینانه در حوزه هوش مصنوعی حمایت می‌کند، مشروط بر اینکه مقررات در سراسر این صنعت اعمال شوند و تعهدات قانونی صرفاً متوجه یک شرکت نباشند.
ایالت‌های شاکی از دادگاه‌ها خواسته‌اند OpenAI را به تغییر محصولات خود ملزم کنند، جریمه‌های مدنی برای این شرکت در نظر بگیرند و آن را به بازگرداندن درآمدهایی که ادعا می‌شود در دوره تخلفات از کاربران کم‌سن‌وسال به دست آورده است، موظف سازند. در برخی از شکایت‌ها همچنین درخواست شده اطلاعات جمع‌آوری‌شده از افراد زیر سن قانونی حذف شود. افزون بر این، برخی شاکیان خواستار محدود شدن توانایی OpenAI برای توسعه مدل‌های هوش مصنوعی خودبهبوددهنده هستند، مگر آنکه شرکت بتواند نشان دهد این سامانه‌ها با ارزش‌های انسانی همسو هستند. از آنجا که هر ایالت به‌طور مستقل شکایت کرده است، OpenAI ممکن است هم‌زمان با تعهدات قانونی متفاوتی در هشت حوزه قضایی روبه‌رو شود. مدیریت چنین وضعیتی از نظر پیچیدگی تقریباً به آن می‌ماند که برای ساخت یک ساختمان واحد، ناچار به رعایت هشت مجموعه متفاوت از مقررات ساختمانی باشید.
به گزارش NBC News، این هشت پرونده در شرایطی مطرح شده‌اند که OpenAI با شکایت‌های دیگری نیز روبه‌روست؛ شکایت‌هایی که در آن‌ها ادعا شده ChatGPT با تیراندازی جمعی در دانشگاه ایالتی فلوریدا و همچنین تیراندازی در منطقه تامبلر ریج کانادا ارتباط داشته است. هیچ‌یک از ادعاهای مطرح‌شده در این پرونده‌ها نیز تاکنون با حکم قطعی دادگاه اثبات نشده‌اند.
در ادامه باید منتظر چه تحولاتی بود؟
نتیجه این پرونده‌ها ممکن است حتی بدون تصویب قانون فدرال، در عمل به شکل‌گیری استانداردهایی سراسری برای حفاظت از کودکان در برابر خطرات هوش مصنوعی منجر شود.
والدین و مربیان باید پیگیر این موضوع باشند که آیا OpenAI سازوکارهای احراز سن را تقویت می‌کند، تدابیر ایمنی مربوط به پاسخ‌گویی در شرایط بحرانی را گسترش می‌دهد یا نحوه مدیریت گفت‌وگوهای عاطفی و حساس ChatGPT با افراد زیر سن قانونی را تغییر می‌دهد. صدور رأی به نفع حتی چند ایالت می‌تواند عملاً حداقل استانداردهای ایمنی کودکان در محصولات هوش مصنوعی را در سراسر آمریکا تعیین کند؛ چه کنگره در این زمینه قانونی تصویب کند و چه نکند. در حال حاضر، بررسی تنظیمات کنترل والدین در ChatGPT می‌تواند نخستین اقدام عملی برای خانواده‌هایی باشد که از این سرویس استفاده می‌کنند.