شکایت دادستان‌های کل ۸ ایالت آمریکا از OpenAI به اتهام نقض ایمنی ChatGPT و حقوق مصرف‌کنندگان
نویسندگان: کریس کارلسون، شانل توماس، الکساندرا لنسی، اشلی ال. تیلور جونیور، کلیتون فریدمن، متیو برنز و ویلیام لاروسا | ۱۶ اکتبر ۲۰۲۶
دادستان‌های کل هشت ایالت آمریکا در ۱۴ اکتبر شکایت‌هایی جداگانه اما هماهنگ علیه شرکت OpenAI ثبت کردند. آن‌ها مدعی‌اند این شرکت درباره ایمنی ChatGPT مصرف‌کنندگان را گمراه کرده و نتوانسته است از کودکان و سایر کاربران در برابر تعاملات آسیب‌زا به‌اندازه کافی محافظت کند.
این شکایت‌ها نشان می‌دهند که دادستان‌های کل ایالت‌ها برای مقابله با شیوه بازاریابی محصولات هوش مصنوعی و نحوه طراحی و عملکرد آن‌ها، به قوانین موجود حمایت از مصرف‌کننده متوسل شده‌اند و منتظر تدوین یک چارچوب جامع برای تنظیم مقررات هوش مصنوعی نمانده‌اند.
اعتراض دادستان‌های کل هشت ایالت به ادعاهای OpenAI درباره ایمنی ChatGPT
این شکایت‌ها بر ابزاری شناخته‌شده در اقدامات اجرایی دادستان‌های کل ایالت‌ها تکیه دارند: قوانین حمایت از مصرف‌کننده. به‌طور کلی، ایالت‌ها مدعی‌اند OpenAI، ChatGPT را محصولی ایمن معرفی کرده، اما این چت‌بات را به‌گونه‌ای طراحی کرده است که بیش از حد با کاربران موافق باشد و تعامل جذاب و مستمری با آن‌ها برقرار کند؛ ویژگی‌هایی که ممکن است باعث شوند کاربران به پاسخ‌های آن بیش از اندازه اعتماد کنند.
بر اساس متن شکایت‌ها، این ویژگی‌ها در شکل‌گیری تعاملات آسیب‌زا نقش داشته‌اند؛ از جمله تقویت باورهای هذیانی، تشویق رفتارهای خطرناک و کمک به اقداماتی مرتبط با خودآزاری یا خشونت. این موارد در شکایت‌ها به‌عنوان ادعا مطرح شده‌اند و هنوز در دادگاه اثبات نشده‌اند.
در شکایت‌ها به‌طور ویژه بر کودکان و نوجوانان و دیگر کاربران آسیب‌پذیر تأکید شده است. از جمله نگرانی‌های مطرح‌شده می‌توان به کفایت تدابیر حفاظتی متناسب با سن و نحوه جمع‌آوری و نگهداری اطلاعات شخصی کاربران کم‌سن‌وسال اشاره کرد.
برخی شکایت‌ها به قوانین دیگری نیز استناد می‌کنند. ایالت مونتانا قانون حریم خصوصی داده‌های مصرف‌کنندگان خود را مطرح کرده و ایالت نبراسکا به قانون طراحی آنلاین متناسب با سن استناد کرده است.
آرکانزاس نیز بر اساس قانون حفاظت از حریم خصوصی آنلاین کودکان و نوجوانان این ایالت طرح دعوا کرده است. این ایالت علاوه بر آن، ادعاهایی بر پایه حقوق عرفی مطرح کرده که شامل سهل‌انگاری، مسئولیت محض ناشی از نقص طراحی و قصور در هشدار درباره خطرات، دارا شدن بلاجهت و ایجاد مزاحمت عمومی می‌شود.
OpenAI ادعاهای ایالت‌ها را رد می‌کند. سخنگوی این شرکت به تدابیر حفاظتی متناسب با سن، از جمله کنترل‌های والدین، یادآوری برای استراحت و سازوکارهای حفاظتی مدل متناسب با سن کاربر اشاره کرده است. او همچنین گفته است که OpenAI با ایالت‌ها برای تدوین سیاست‌های هوش مصنوعی قابل اجرا در سراسر این صنعت همکاری می‌کند. این اتهام‌ها هنوز در دادگاه رسیدگی و تعیین تکلیف نشده‌اند و OpenAI فرصت خواهد داشت در هر یک از پرونده‌ها به آن‌ها پاسخ دهد.
ایالت‌ها خواستار تغییر در ChatGPT هستند، نه صرفاً جریمه مالی
خواسته‌های مطرح‌شده در این پرونده‌ها دامنه گسترده‌ای دارند. ایالت‌ها علاوه بر جریمه‌های مدنی و پرداخت غرامت، خواستار بازپس‌گیری سود حاصل از فعالیت‌هایی هستند که کاربران کم‌سن‌وسال در آن‌ها نقش داشته‌اند و نیز صدور احکامی قضایی برای تغییر نحوه عملکرد ChatGPT شده‌اند.
برای نمونه، آرکانزاس از دادگاه می‌خواهد تا زمان استقرار تدابیر حفاظتی کافی، آزمایش‌های پیشرفته‌تر هوش مصنوعی و ساخت مدل‌هایی را که قادر به بهبود مکرر و خودکار عملکرد خود هستند، ممنوع کند. این ایالت همچنین خواستار آن است که خطرات مهم ChatGPT به‌روشنی و به شکلی کاملاً قابل مشاهده به کاربران اعلام شوند.
از دیگر خواسته‌ها می‌توان به حذف برخی داده‌های کاربران و محدود کردن جمع‌آوری اطلاعات مربوط به افراد زیر سن قانونی اشاره کرد.
این درخواست‌ها به طراحی محصولات در آینده، آزمایش و عرضه آن‌ها نیز مربوط می‌شوند و صرفاً بر رفتارهای گذشته شرکت تمرکز ندارند.
این پرونده‌ها ادامه روند اقدامات اجرایی‌ای هستند که در ماه ژوئن آغاز شد؛ زمانی که جیمز اوثمایر، دادستان کل فلوریدا، از OpenAI شکایت کرد و مدعی شد این شرکت آگاهانه محصولی ناایمن را روانه بازار کرده است.
رسیدگی هم‌زمان به این پرونده‌ها در دادگاه‌های ایالتی، چالش‌های عملی متعددی برای دادرسی ایجاد می‌کند. از آنجا که دادستان‌های کل هر ایالت در دادگاه‌های همان ایالت شکایت کرده‌اند، OpenAI باید با هشت مجموعه رویه قضایی، قاضی و برنامه زمانی متفاوت برای تبادل و ارائه اسناد و شواهد روبه‌رو شود. افزون بر این، انتقال پرونده‌های اجرایی دادستان‌های کل به دادگاه‌های فدرال معمولاً دشوار است.
دیوان عالی ایالات متحده در پرونده Mississippi ex rel. Hood v. AU Optronics Corp.، به شماره ۵۷۱ ایالات متحده ۱۶۱ (۲۰۱۴)، اعلام کرد که دعوای ایالت در مقام دفاع از منافع عمومی شهروندانش، موسوم به parens patriae، دعوای گروهی قابل انتقال به دادگاه فدرال بر اساس قانون انصاف در دعاوی گروهی نیست. اسناد، شهادت‌ها و اظهاراتی که در یکی از این پرونده‌ها ارائه یا ثبت می‌شوند، ممکن است در پرونده‌های دیگر نیز مطرح شوند. همچنین، وکلای شاکیان در دعاوی خصوصی اغلب از شکایت‌های دولت و مدارک گردآوری‌شده در جریان تحقیقات و دادرسی‌های آن استفاده می‌کنند.
اهمیت این پرونده‌ها چیست؟
این شکایت‌های هماهنگ نشان می‌دهند که دادستان‌های کل ایالت‌ها برای بررسی محصولات هوش مصنوعی منتظر تصویب قوانین اختصاصی این فناوری نمی‌مانند. کریس کوباخ، دادستان کل کانزاس، در این باره گفته است که ایالت‌ها قرار نیست تا زمان تدوین مقررات فدرال دست روی دست بگذارند و منتظر بمانند.
این پرونده‌ها همچنین بازتاب‌دهنده روند گسترده‌تری هستند. دادستان‌های کل ایالت‌ها در سال‌های اخیر بیش از پیش از قوانین حمایت از مصرف‌کننده برای پیگیری ادعاهای مربوط به آسیب‌های واردشده به افراد زیر سن قانونی از سوی شرکت‌های فناوری استفاده کرده‌اند؛ ابتدا در پرونده‌های مربوط به شبکه‌های اجتماعی و اکنون در پرونده‌های مرتبط با توسعه‌دهندگان هوش مصنوعی. دست‌کم هفت مورد از شکایت‌های ثبت‌شده در ۱۴ اکتبر با همکاری یک گروه حقوقی خارج از ساختار دولت مطرح شده‌اند؛ عاملی که ممکن است شباهت میان ادعاهای آن‌ها را توضیح دهد.
انتظار می‌رود این پرونده‌ها چند دفاع حقوقی حل‌نشده در زمینه هوش مصنوعی را به آزمون بگذارند. از جمله این پرسش‌ها آن است که آیا بخش ۲۳۰ قانون نزاکت در ارتباطات بر محتوای تولیدشده توسط هوش مصنوعی نیز اعمال می‌شود، آیا متمم اول قانون اساسی آمریکا محدودیت‌هایی بر طرح برخی ادعاها یا صدور دستورهای قضایی درباره خروجی مدل‌ها ایجاد می‌کند و آیا می‌توان اصول مسئولیت ناشی از نقص محصول را که برای کالاهای ملموس تدوین شده‌اند، به نرم‌افزارها و خدمات هوش مصنوعی نیز تعمیم داد.
در پرونده Garcia v. Character Technologies, Inc.، به شماره ۷۸۵ مجموعه سوم گزارش‌های فدرال ۱۱۵۷ (دادگاه منطقه‌ای میانی فلوریدا، ۲۰۲۵)، یک دادگاه فدرال تا حد زیادی با درخواست‌های خواندگان برای رد دعوا موافقت نکرد. دادگاه در مرحله بررسی اولیه ادعاها نیز نپذیرفت که خروجی تولیدشده به‌وسیله مدل زبانی بزرگ یک چت‌بات هوش مصنوعی را در همین مرحله مشمول حمایت متمم اول قانون اساسی بداند؛ با این حال، پرسش گسترده‌تر قانون اساسی را حل‌نشده باقی گذاشت. تصمیم‌های اولیه دادگاه‌ها درباره درخواست رد دعوا در پرونده‌های کنونی می‌توانند بر نحوه برخورد دادگاه‌های سراسر آمریکا با ادعاهای مشابه تأثیر بگذارند.
هم‌زمان، الزامات ویژه هوش مصنوعی نیز در حال شکل‌گیری هستند. قانون خدمات هوش مصنوعی مکالمه‌ای کلرادو از اول ژانویه ۲۰۲۷ اجرایی می‌شود. وزارت حقوق کلرادو نیز در ۶ اکتبر پیش‌نویس موقت مقررات اجرایی این قانون را منتشر کرده و جلسه استماع مربوط به تدوین مقررات برای ۲۶ اکتبر برنامه‌ریزی شده است.
شرکت‌هایی که هوش مصنوعی را برای استفاده مصرف‌کنندگان توسعه می‌دهند یا به کار می‌گیرند، بهتر است موارد زیر را بررسی کنند:
- ادعاهای مربوط به ایمنی و بازاریابی: آیا اظهارات عمومی شرکت درباره ایمنی، دقت، حریم خصوصی یا تدابیر حفاظتی با قابلیت‌ها و محدودیت‌های واقعی محصول مطابقت دارد؟
- طراحی و آزمایش محصول: آیا شرکت می‌تواند مبنای ادعاهای خود درباره ایمنی و تدابیری را که برای مقابله با خطرات شناخته‌شده به کار گرفته است، مستند کند؟
- افراد زیر سن قانونی و داده‌های شخصی: آیا تدابیر حفاظتی متناسب با سن و رویه‌های مربوط به داده‌ها با اظهارات شرکت و الزامات قانونی قابل اجرا سازگارند؟
- کنترل‌های والدین: آیا کنترل‌های والدین در عمل مؤثرند و آیا توضیحات ارائه‌شده درباره محدودیت‌های آن‌ها دقیق است؟
- الزامات نوظهور ویژه هوش مصنوعی: آیا شرکت قوانین و مقررات جدید ایالتی را دنبال می‌کند و الزامات آن‌ها را با قابلیت‌های موجود محصول و اطلاعاتی که در اختیار کاربران قرار می‌دهد تطبیق می‌دهد؟
- آمادگی برای دادرسی: آیا ارتباطات داخلی مرتبط، سوابق آزمایش‌ها و ارزیابی‌های ریسک مطابق دستورهای قانونی حفظ اسناد نگهداری می‌شوند؟ آیا شرکت برای پاسخ‌گویی به درخواست‌های رسمی ارائه اطلاعات در تحقیقات مدنی و هماهنگ‌کردن دفاع در پرونده‌های قضایی چند حوزه قضایی آمادگی دارد؟
گروه دادستان‌های کل ایالتی مؤسسه حقوقی تروتمن پپر لاک به پیگیری این پرونده‌ها و اقدامات اجرایی دادستان‌های کل ایالت‌ها در حوزه هوش مصنوعی ادامه خواهد داد. شرکت‌هایی که درباره این تحولات پرسش دارند، می‌توانند با گروه دادستان‌های کل ایالتی این مؤسسه تماس بگیرند. وکلای این گروه، با همکاری گروه تحقیقات نظارتی، راهبرد و اجرای قانون، می‌توانند به شرکت‌ها در ارزیابی ادعاهای مربوط به ایمنی و بازاریابی هوش مصنوعی و آماده‌شدن برای رسیدگی‌ها و تحقیقات دادستان‌های کل ایالت‌ها کمک کنند.