هشت ایالت آمریکا از OpenAI شکایت کردند؛ اتهام آسیب‌رسانی ChatGPT به نوجوانان و جوانان
هشت ایالت آمریکا روز پانزدهم ماه جاری با ثبت شکایت‌هایی در دادگاه‌های ایالتی خود، علیه شرکت OpenAI، سازنده هوش مصنوعی مولد و گفت‌وگومحور ChatGPT، اقدام قانونی کردند. این ایالت‌ها مدعی‌اند که چت‌بات این شرکت کاربران، از جمله نوجوانان، را به خودآزاری و آسیب‌رساندن به دیگران تشویق کرده است. این اقدام، بزرگ‌ترین شکایت حقوقی هماهنگ در سطح ایالت‌های آمریکا علیه یک شرکت هوش مصنوعی تا به امروز به شمار می‌رود.
هشت ایالت آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا در این اقدام حقوقی مشارکت دارند. دادستان کل هر ایالت به‌طور جداگانه شکایت خود را در دادگاه همان ایالت ثبت کرده است. شاکیان از دادگاه‌ها خواسته‌اند دستورهایی برای تغییر نحوه عملکرد ChatGPT صادر کنند و علاوه بر تعیین جریمه‌های مدنی بابت نقض قوانین ایالتی، شرکت OpenAI را به پرداخت خسارت مالی ملزم سازند.
بر اساس متن شکایت‌ها، دادستان‌های کل ایالت‌ها معتقدند ChatGPT به‌گونه‌ای طراحی شده که با رفتاری دوستانه و تأییدکننده، اعتماد کاربران را جلب کند؛ اما همین ویژگی به تقویت باورهای هذیانی و رفتارهای خطرناک منجر می‌شود و حتی در برنامه‌ریزی برای اقدامات خشونت‌آمیزی مانند تیراندازی‌های جمعی به کاربران کمک می‌کند. آن‌ها همچنین مدعی‌اند OpenAI با ارائه اطلاعات گمراه‌کننده درباره ایمنی ChatGPT، قوانین حمایت از مصرف‌کنندگان را نقض کرده و با ایجاد وضعیتی زیان‌بار برای عموم، به جامعه آسیب رسانده است.
برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای اعلام کرد هدف از این شکایت «دفاع از حقوق ساکنان آیوواست که از رفتار عمدی، خطرناک، بی‌ملاحظه و غیرقانونی OpenAI آسیب دیده‌اند». او این شرکت را متهم کرد که با وجود ادعای ایمن‌بودن ChatGPT، این سامانه توصیه‌های پزشکی خطرناک ارائه می‌دهد، کاربران را به آسیب‌رساندن به دیگران تشویق می‌کند و روش‌های خودکشی را به آن‌ها آموزش می‌دهد.
در مقابل، درو پوساتری، سخنگوی OpenAI، این اتهامات را رد کرد و گفت شرکت تدابیر حفاظتی متناسب با سن کاربران را در محصولات خود گنجانده است؛ قابلیتی که به گفته او «بسیاری از محصولات هوش مصنوعی دیگر فاقد آن هستند». او همچنین تأکید کرد OpenAI برای تدوین سیاست‌هایی که در سراسر صنعت هوش مصنوعی قابل اجرا باشند، با ایالت‌های آمریکا همکاری می‌کند.
پوساتری گفت: «هیچ سامانه‌ای بی‌نقص نیست، اما ما به همکاری با متخصصان و توسعه تدابیر ایمنی بیشتر ادامه خواهیم داد. این اقدامات شامل قابلیت‌هایی مانند کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران است که هم‌اکنون نیز در محصولات ما وجود دارند.»
افزایش نظارت‌ها و خطر شکایت‌های حقوقی
عملکرد OpenAI در زمینه ایمنی و امنیت محصولاتش، به‌ویژه اقدامات این شرکت برای محافظت از کودکان، بیش از پیش زیر ذره‌بین قرار گرفته است. تاکنون چندین شکایت حقوقی درباره مرگ‌های ناشی از اقدامات غیرقانونی علیه این شرکت مطرح شده که در آن‌ها ادعا می‌شود ChatGPT باعث شکل‌گیری باورهای هذیانی آسیب‌زا در کاربران شده و در برخی موارد، آن‌ها را به سمت خودکشی سوق داده است.
جیمز اوتمایر، دادستان کل ایالت فلوریدا، نیز در ماه ژوئن از OpenAI شکایت کرد. او مدعی شد این شرکت آگاهانه محصولی ناایمن را عرضه کرده که می‌تواند به کاربران آسیب برساند.
OpenAI در حالی برای عرضه اولیه سهام خود در بورس آماده می‌شود که با ده‌ها شکایت حقوقی روبه‌روست. در این پرونده‌ها ادعا شده ChatGPT به کاربران برای برنامه‌ریزی تیراندازی‌های جمعی و دیگر اقدامات خشونت‌آمیز کمک کرده است. شکایت هماهنگ هشت ایالت آمریکا نشان می‌دهد فشارهای حقوقی بر این شرکت همچنان رو به افزایش است.
تقویت تدابیر حفاظتی برای افراد زیر سن قانونی
OpenAI طی یک سال گذشته تلاش کرده است قابلیت‌های ایمنی محصولات خود را برای والدین و کودکان بهبود دهد. این شرکت در ماه اوت محصولی با عنوان «ChatGPT برای نوجوانان» (ChatGPT for Teens) عرضه کرد که محیطی اختصاصی برای کاربران زیر سن قانونی فراهم می‌کند. این محصول دارای قابلیت‌های آموزشی و تدابیر ایمنی متناسب با سن است که با هدف کاهش مواجهه نوجوانان با محتوای نامناسب برای مرحله رشد آن‌ها یا محتوای آسیب‌زا طراحی شده‌اند.
OpenAI هنگام معرفی این محصول اعلام کرد نوجوانان باید بتوانند از هوش مصنوعی برای یادگیری، خلق آثار و کشف موضوعات تازه استفاده کنند، اما دسترسی آن‌ها به این فناوری باید با تدابیر حفاظتی متناسب با مرحله رشدشان همراه باشد.
بااین‌حال، شکایت هشت ایالت آمریکا نشان می‌دهد نهادهای نظارتی معتقدند اقدامات داوطلبانه شرکت‌ها به‌تنهایی کافی نیست. این ایالت‌ها خواستار تغییرات اساسی در نحوه عملکرد ChatGPT هستند و احتمال دارد تلاش‌ها برای تشدید مقررات نظارتی بر شرکت‌های هوش مصنوعی در سطح ایالت‌ها، طی ماه‌های آینده گسترش بیشتری پیدا کند.
نتیجه این پرونده‌ها می‌تواند سابقه قضایی مهمی در تعیین حدود مسئولیت قانونی شرکت‌ها در قبال ایمنی محصولات هوش مصنوعی ایجاد کند. به‌ویژه، احکام دادگاه‌ها درباره اینکه شرکت‌ها تا چه اندازه باید مسئول تأثیر محتوای تولیدشده با هوش مصنوعی بر رفتار کاربران باشند، با دقت زیادی دنبال خواهد شد.
هم‌زمان با حرکت OpenAI به سمت عرضه اولیه سهام، افزایش خطر دعاوی حقوقی می‌تواند بر نگرش سرمایه‌گذاران نیز تأثیر منفی بگذارد. با سخت‌گیرانه‌ترشدن فضای نظارتی برای شرکت‌های هوش مصنوعی، احتمالاً فشارها بر OpenAI برای تغییر شیوه فعالیت‌های تجاری و مسیر توسعه محصولاتش افزایش خواهد یافت.