دادستان کل ویرجینیای غربی به دلیل نگرانی‌های ایمنی چت‌جی‌پی‌تی و آسیب‌های ادعایی به کودکان از OpenAI شکایت کرد
نویسنده: چارلز یانگ، سردبیر | ۱۴ اکتبر ۲۰۲۶
چارلستون، ویرجینیای غربی ـ جی‌بی مک‌کاسکی، دادستان کل ایالت ویرجینیای غربی آمریکا، شکایتی علیه شرکت OpenAI مطرح کرده و مدعی شده است که این شرکت با ارائه اطلاعات گمراه‌کننده درباره ایمنی چت‌بات هوش مصنوعی چت‌جی‌پی‌تی، مصرف‌کنندگان را فریب داده و با اولویت دادن به رشد تجاری به جای تدابیر ایمنی، کودکان و دیگر کاربران آسیب‌پذیر را در معرض خطر قرار داده است.
این شکایت حقوقی که روز چهارشنبه در دادگاه حوزه قضایی شهرستان میسون ثبت شد، هشت شخصیت حقوقی وابسته به OpenAI را به انجام فعالیت‌های تجاری فریبکارانه و غیرمنصفانه، ایجاد مزاحمت و آسیب عمومی و دارا شدن بلاجهت متهم می‌کند. دولت ایالتی خواستار اعمال جریمه‌های مدنی، جبران خسارت، صدور دستورهای قضایی برای اجرای اقدامات ایمنی و دیگر راهکارهای قانونی شده است.
در متن شکایت ادعا شده است که OpenAI چت‌جی‌پی‌تی را به‌عنوان ابزاری ایمن و قابل اعتماد تبلیغ کرده، اما برای مقابله با خطرات ناشی از گفت‌وگوهای این چت‌بات درباره خودکشی، خودآزاری، خشونت و دیگر موضوعات حساس، اقدامات کافی انجام نداده است.
مک‌کاسکی هنگام اعلام این شکایت گفت: «ما باید هر کاری از دستمان برمی‌آید برای محافظت از کودکان انجام دهیم. بارها و بارها دیده‌ایم که OpenAI خطرآفرین است و این شرکت برای جلوگیری از این خطرات کار چندانی نمی‌کند.»
مک‌کاسکی اعلام کرد که دولت ایالتی قصد دارد با استفاده از قوانین حمایت از مصرف‌کنندگان ویرجینیای غربی، این شرکت را در قبال عملکردش پاسخ‌گو کند.
در این شکایت، هشت شرکت و نهاد OpenAI Global LLC، OpenAI Foundation، OAI Corporation LLC، OpenAI OpCo LLC، OpenAI Group PBC، OpenAI Global Holdco Inc.، OpenAI LLC و OpenAI Holdings LLC به‌عنوان خواندگان پرونده معرفی شده‌اند.
ادعاهایی درباره ناکارآمدی تدابیر ایمنی
دولت ویرجینیای غربی مدعی است که رویکرد OpenAI در توسعه و بازاریابی چت‌جی‌پی‌تی، هم‌زمان با فاصله گرفتن این سازمان از ریشه‌های غیرانتفاعی خود و حرکت به سوی یک مدل کسب‌وکار تجاری، تغییر کرده است. بر اساس متن شکایت، این شرکت به‌تدریج توجه بیشتری به رشد و درآمدزایی نشان داده و در مقابل، بررسی‌های ایمنی را در اولویت پایین‌تری قرار داده است.
در این شکایت همچنین به خروج شماری از مدیران برجسته و پژوهشگران حوزه ایمنی OpenAI، از جمله ایلیا سوتسکور، یان لایکه و میرا موراتی، اشاره شده است. دولت ایالتی این جدایی‌ها را در چارچوب نگرانی‌های داخلی درباره مسیر حرکت شرکت مطرح کرده است.
دولت ایالتی همچنین مدعی است که OpenAI درباره میزان ایمنی و قابلیت اعتماد چت‌جی‌پی‌تی و مناسب بودن آن برای نوجوانان و کاربردهای حساس، از جمله تصمیم‌گیری‌های پزشکی و مالی، ادعاهایی اغراق‌آمیز مطرح کرده است؛ در حالی که محدودیت‌های شناخته‌شده و خطرات ایمنی این فناوری را به‌اندازه کافی برای کاربران توضیح نداده است.
یکی دیگر از محورهای اصلی شکایت به تمایل چت‌بات برای موافقت با کاربران و شبیه‌سازی همدلی انسانی مربوط می‌شود. در متن شکایت استدلال شده است که این ویژگی‌ها می‌توانند وابستگی عاطفی و استفاده بیش از حد از چت‌بات را تشویق کنند؛ خطری که به‌ویژه کودکان و نوجوانان و دیگر افراد آسیب‌پذیر را تهدید می‌کند.
در این دادخواست، میان طراحی و رفتار چت‌جی‌پی‌تی و موارد ادعایی آسیب روانی، شکل‌گیری باورهای هذیانی، ارائه اطلاعات نادرست پزشکی و زیان‌های مالی ارتباط برقرار شده است. همچنین در این شکایت ادعا شده که دست‌کم ۲۴ مورد مرگ در سراسر جهان، از جمله موارد خودکشی و حملات خشونت‌آمیز، با حوادث مرتبط با این فناوری ارتباط داشته‌اند.
البته این موارد صرفاً ادعاهای مطرح‌شده در شکایت دولت ایالتی هستند و هنوز هیچ دادگاهی صحت آن‌ها را احراز نکرده است.
گسترش نگرانی‌ها به هوش مصنوعی خودمختار
این شکایت همچنین نگرانی‌هایی را درباره مدل‌های پیشرفته‌تر OpenAI و عامل‌های هوش مصنوعی خودمختار مطرح می‌کند؛ سامانه‌هایی که برای انجام وظایف با دخالت مستقیم کمتر انسان طراحی شده‌اند.
بر اساس متن شکایت، در فاصله ماه‌های مه تا اوت ۲۰۲۶، حوادثی رخ داده که از جمله آن‌ها می‌توان به فعالیت‌های سایبری ادعایی و بدون مجوز مرتبط با خدمات نرم‌افزاری، یک انجمن اینترنتی آلمانی و پلتفرم هاگینگ فیس (Hugging Face) اشاره کرد. هاگینگ فیس بستری برای توسعه و اشتراک‌گذاری مدل‌های هوش مصنوعی است.
دولت ایالتی معتقد است چنین حوادثی نشان‌دهنده خطرات عرضه و به‌کارگیری سامانه‌های هوش مصنوعی با توانایی‌های روزافزون، بدون برخورداری از تدابیر حفاظتی و محیط‌های آزمایشی مناسب است.
خواسته‌های ایالت ویرجینیای غربی از دادگاه
این دادخواست بر اساس قانون اعتبار و حمایت از مصرف‌کنندگان ویرجینیای غربی و دیگر مبانی حقوقی، چهار ادعای اصلی را مطرح می‌کند: فعالیت‌های تجاری فریبکارانه، فعالیت‌های تجاری غیرمنصفانه، ایجاد مزاحمت و آسیب عمومی و دارا شدن بلاجهت.
دولت ایالتی مدعی است که عملکرد این شرکت سلامت و ایمنی عمومی را تهدید می‌کند و فشار بیشتری بر مدارس، سامانه‌های رسیدگی به بحران و خدمات اضطراری وارد می‌آورد.
از جمله درخواست‌های مطرح‌شده در این شکایت، صدور احکام قضایی برای ملزم کردن OpenAI به اجرای سازوکارهای مؤثر احراز سن کاربران، فعال‌سازی پیش‌فرض ابزارهای کنترل والدین، تدوین پروتکل‌های ارجاع و تشدید مداخله در شرایط بحرانی و نظارت مستقل بر پایبندی شرکت به الزامات تعیین‌شده است.
دولت ایالتی همچنین خواستار اعمال جریمه‌های مدنی تا سقف ۵ هزار دلار برای هر مورد نقض عمدی قانون حمایت از مصرف‌کنندگان، جبران خسارت، بازگرداندن سودهایی است که به ادعای دولت از طریق اقدامات غیرقانونی به دست آمده‌اند و حذف اطلاعات شخصی افراد زیر سن قانونی در ویرجینیای غربی شده است؛ اطلاعاتی که به گفته دولت ایالتی، به‌طور غیرقانونی جمع‌آوری شده‌اند.
از دیگر خواسته‌های مطرح‌شده می‌توان به تدوین برنامه‌ای تحت نظارت دادگاه برای رسیدگی به ایمنی دیجیتال کودکان و نوجوانان و نحوه واکنش به بحران‌ها، و همچنین بازپرداخت هزینه‌های حقوقی و تحقیقاتی دولت ایالتی اشاره کرد.
مک‌کاسکی این شکایت را در یک نشست خبری و در کنار دادستان‌های کل ایالت‌های آیووا، کانزاس، نبراسکا و آرکانزاس اعلام کرد. به گفته دفتر دادستان کل ویرجینیای غربی، ایالت‌های آریزونا، آیداهو و مونتانا نیز شکایت‌هایی علیه OpenAI در دادگاه‌های ایالتی خود مطرح کرده‌اند.
OpenAI در سال ۲۰۲۲ چت‌جی‌پی‌تی را در دسترس عموم قرار داد. این چت‌بات به کاربران امکان می‌دهد از طریق پیام‌ها و درخواست‌های گفت‌وگومحور با هوش مصنوعی تعامل کنند و از زمان عرضه به یکی از فناوری‌های پرکاربرد در میان مصرف‌کنندگان تبدیل شده است.
در این شکایت از دادگاه خواسته شده است بررسی کند که آیا عملکرد OpenAI قوانین ایالت ویرجینیای غربی را نقض کرده است یا خیر و در صورت اثبات ادعاهای دولت ایالتی، احکام لازم را برای جبران خسارت و رفع تخلفات صادر کند.