هشت ایالت آمریکا به اتهام آسیب‌رساندن به کاربران کم‌سن‌وسال از OpenAI شکایت کردند
شرکت OpenAI با شکایت هشت ایالت آمریکا روبه‌رو شده است. این ایالت‌ها مدعی‌اند چت‌بات چت‌جی‌پی‌تی کودکان و دیگر کاربران آسیب‌پذیر را در معرض خطر قرار داده و این شرکت نیز با ارائه اطلاعات گمراه‌کننده درباره ایمنی فناوری هوش مصنوعی خود، مصرف‌کنندگان را فریب داده است.
دادستان‌های کل ایالت‌های آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز ۱۴ اکتبر ۲۰۲۶ شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند. این اقدام هماهنگ، مرحله تازه و مهمی از افزایش نظارت قضایی بر هوش مصنوعی مولد به شمار می‌رود.
در این شکایت‌ها ادعا شده است که چت‌جی‌پی‌تی کاربران را به رفتارهای خطرناک تشویق کرده، باورهای هذیانی آنان را تقویت کرده و برخی افراد، از جمله نوجوانانی را که با مشکلات سلامت روان دست‌وپنجه نرم می‌کنند، در معرض تعاملات آسیب‌زا قرار داده است.
ایالت‌های شاکی استدلال می‌کنند که OpenAI چت‌بات خود را به‌گونه‌ای طراحی کرده که بسیار موافق و همراه با کاربر باشد و او را به ادامه گفت‌وگو ترغیب کند. به اعتقاد آن‌ها، چنین طراحی‌ای ممکن است باعث شود کاربران بیش از اندازه به پاسخ‌هایی اعتماد کنند که لزوماً مناسب یا ایمن نیستند.
بر اساس متن شکایت‌ها، این ویژگی‌ها به‌ویژه برای کودکان و افراد آسیب‌پذیر خطرآفرین است؛ زیرا ممکن است پاسخ‌های چت‌بات را راهنمایی قابل اعتماد یا نوعی حمایت عاطفی تلقی کنند.
شاکیان، OpenAI را به نقض قوانین حمایت از مصرف‌کنندگان در ایالت‌های مختلف متهم کرده‌اند. به ادعای آن‌ها، این شرکت با ارائه تصویری نادرست از میزان ایمنی چت‌جی‌پی‌تی و اطلاع‌رسانی ناکافی درباره خطرات استفاده از آن، الزامات قانونی را رعایت نکرده است.
در برخی از این شکایت‌ها همچنین با استناد به خطرات ادعایی برای ساکنان ایالت‌ها، ادعاهای حقوقی مبتنی بر ایجاد مزاحمت عمومی مطرح شده است.
برنا برد، دادستان کل ایالت آیووا، گفته است این پرونده‌های قضایی، اطمینان‌بخشی‌هایی را به چالش می‌کشند که به گفته او درباره ایمنی محصولات OpenAI گمراه‌کننده بوده‌اند.
در متن شکایت‌ها به مواردی از تعاملات ادعایی آسیب‌زا در ارتباط با خودآسیب‌رسانی، بحران‌های سلامت روان و خشونت اشاره شده است؛ بااین‌حال، هیچ‌یک از این ادعاها هنوز در دادگاه به اثبات نرسیده‌اند.
خواسته‌های حقوقی ایالت‌ها در این پرونده‌ها به دریافت غرامت مالی محدود نمی‌شود.
این ایالت‌ها از دادگاه‌ها خواسته‌اند احکامی صادر کنند که ممکن است OpenAI را به تغییر برخی جنبه‌های عملکرد چت‌جی‌پی‌تی ملزم کند؛ به‌ویژه در نحوه تعامل این سامانه با کودکان و کاربرانی که احتمال آسیب‌پذیری بیشتری دارند.
از جمله اقدامات پیشنهادی می‌توان به سخت‌گیرانه‌تر شدن فرایند تأیید سن کاربران، افزایش ابزارهای حفاظتی و نظارتی برای والدین و اعمال محدودیت‌هایی برای کاهش تعاملات بالقوه آسیب‌زا اشاره کرد.
ایالت‌های شاکی همچنین خواستار اعمال جریمه‌های مدنی، پرداخت خسارت و اجرای دیگر اقدامات جبرانی پیش‌بینی‌شده در قوانین حمایت از مصرف‌کنندگان هر ایالت شده‌اند.
این پرونده‌ها پرسش‌های مهمی را درباره نحوه اعمال چارچوب‌های حقوقی موجود بر محصولاتی مطرح می‌کنند که به‌جای ارائه اطلاعات ثابت، پاسخ‌های خود را به‌صورت پویا تولید می‌کنند.
قوانین حمایت از مصرف‌کنندگان امکان برخورد با رویه‌های تجاری گمراه‌کننده و پنهان‌کردن خطرات مهم را فراهم می‌کنند. بااین‌حال، هوش مصنوعی گفت‌وگومحور مسائل حقوقی پیچیده‌تری ایجاد می‌کند؛ زیرا پاسخ‌های آن ممکن است بسته به رفتار کاربر، درخواست‌های مطرح‌شده و شرایط هر گفت‌وگو متفاوت باشد.
یکی از مسائل محوری این پرونده‌ها آن است که آیا می‌توان از نظر حقوقی میان آسیب‌های ادعایی و نحوه طراحی محصول OpenAI، ادعاهای این شرکت درباره ایمنی آن و تصمیم‌هایش برای عرضه و به‌کارگیری این فناوری ارتباط برقرار کرد یا خیر.
ممکن است دادگاه‌ها ناچار شوند به این موضوع نیز رسیدگی کنند که توسعه‌دهندگان هوش مصنوعی تا چه اندازه می‌توانند به‌طور منطقی تعاملات آسیب‌زا را پیش‌بینی کنند و قانون آن‌ها را به اجرای چه تدابیر حفاظتی ملزم می‌کند.
اهمیت این پرسش‌ها احتمالاً با عرضه سامانه‌های پیشرفته‌تر هوش مصنوعی افزایش خواهد یافت؛ سامانه‌هایی که می‌توانند گفت‌وگوهای طولانی و بسیار شخصی‌سازی‌شده‌ای با کاربران داشته باشند.
OpenAI در مقابل، از رویکرد خود برای حفظ ایمنی کاربران دفاع کرده است.
درو پوساتری، سخنگوی این شرکت، اعلام کرده است که OpenAI تدابیر حفاظتی متناسب با گروه‌های سنی مختلف را به اجرا گذاشته است. این اقدامات شامل ابزارهای کنترل والدین، یادآوری برای استراحت در جریان استفاده از چت‌بات و سازوکارهای ایمنی برای ارائه پاسخ‌های مناسب‌تر به کاربران کم‌سن‌وسال است.
این شرکت پذیرفته است که سامانه‌های ایمنی نمی‌توانند تمام خطرات را از میان ببرند و اعلام کرده همچنان با همکاری متخصصان برای تقویت تدابیر حفاظتی تلاش می‌کند.
این پرونده‌ها در ادامه شکایت‌های پیشین ایالتی و خصوصی مطرح شده‌اند که در آن‌ها نیز ادعاهایی درباره آسیب‌های ناشی از تعامل با چت‌جی‌پی‌تی وجود داشته است؛ هرچند آن پرونده‌ها از نظر وقایع مورد استناد و ادعاهای حقوقی با شکایت‌های جدید تفاوت دارند.
آثار احتمالی شکایت‌های اخیر ممکن است فراتر از OpenAI باشد؛ زیرا بسیاری از استدلال‌های حقوقی مطرح‌شده به شیوه‌های طراحی محصولات، ادعاهای شرکت‌ها درباره ایمنی و تعهداتی مربوط می‌شوند که ممکن است درباره دیگر توسعه‌دهندگان هوش مصنوعی گفت‌وگومحور نیز صدق کنند.
اگر ایالت‌های شاکی بتوانند نقض قوانین حمایت از مصرف‌کنندگان را اثبات کنند، دادگاه‌ها ممکن است اقداماتی را بررسی کنند که بر طراحی محصولات، نحوه اطلاع‌رسانی درباره خطرات و تدابیر حفاظتی برای کاربران کم‌سن‌وسال تأثیر بگذارند.
بااین‌حال، دامنه هرگونه تعهد قانونی احتمالی به قوانین قابل اجرا در هر ایالت، شواهد ارائه‌شده و نتایجی بستگی خواهد داشت که دادگاه‌های رسیدگی‌کننده به آن‌ها می‌رسند.
این شکایت‌ها آزمون حقوقی مهمی برای تعیین چگونگی اعمال اصول شناخته‌شده حمایت از مصرف‌کنندگان بر سامانه‌های روزبه‌روز پیشرفته‌تر هوش مصنوعی به شمار می‌روند؛ به‌ویژه در مواردی که آسیب‌های ادعایی نه از نقص‌های متعارف یک محصول، بلکه از تعاملات شخصی‌سازی‌شده میان کاربر و سامانه ناشی می‌شوند.