چندین ایالت آمریکا با اتهام آسیب‌رساندن به کودکان و فریب والدین از OpenAI شکایت کردند
هشت ایالت آمریکا با طرح شکایت‌های حقوقی علیه شرکت OpenAI Group PBC، این شرکت فعال در حوزه هوش مصنوعی را متهم کرده‌اند که چت‌جی‌پی‌تی را با وجود ناایمن‌بودن به بازار عرضه کرده است.
ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا در شکایت‌های خود مدعی شده‌اند که چت‌جی‌پی‌تی به چندین کودک آسیب رسانده و هزاران والدین را فریب داده است. برنا برد، دادستان کل آیووا، اعلام کرد که هر یک از این ایالت‌ها به‌طور مستقل و در دادگاه‌های خود علیه OpenAI اقامه دعوا کرده‌اند.
برد در بیانیه‌ای درباره شکایت ایالت آیووا گفت هدف از این اقدام، «احقاق حقوق ساکنان آیووا است که از رفتار عمدی، خطرناک، بی‌پروا و غیرقانونی OpenAI آسیب دیده‌اند». او افزود: «OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید. این شرکت ادعا می‌کند چت‌جی‌پی‌تی ایمن است، درحالی‌که این ابزار توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب‌رساندن به دیگران تشویق می‌کند و به آن‌ها برای خودکشی راهنمایی می‌دهد؛ آن هم در شرایطی که خود را به‌عنوان دوستی غیرواقعی جا می‌زند. هدف شکایت من محافظت از کودکان و پاسخ‌گوکردن OpenAI بر اساس قوانین ایالت ماست.»
در واکنش به این شکایت‌ها، درو پوساتری، سخنگوی OpenAI، اعلام کرد که این شرکت پیش‌تر تدابیر حفاظتی متناسب با سن کاربران را در چت‌جی‌پی‌تی پیاده‌سازی کرده است؛ قابلیت‌هایی که به گفته او «بسیاری از محصولات دیگر هوش مصنوعی فاقد آن‌ها هستند». او همچنین گفت OpenAI برای تدوین سیاست‌هایی در حوزه هوش مصنوعی که در سراسر این صنعت اجرا شوند، همکاری نزدیکی با ایالت‌های آمریکا دارد. پوساتری افزود: «اگرچه هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، ما همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه‌های آن‌ها در فعالیت‌هایمان بهره ببریم و تدابیر حفاظتی بیشتری توسعه دهیم؛ از جمله قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران که هم‌اکنون در دسترس هستند.»
این شکایت‌های متعدد در شرایطی مطرح شده‌اند که OpenAI به دلیل نگرانی‌ها درباره ایمنی محصولات و شیوه‌های امنیتی خود با نظارت و بررسی‌های فزاینده‌ای روبه‌رو شده است. تلاش‌های این شرکت برای محافظت از کودکانی که از محصولاتش استفاده می‌کنند نیز نگرانی‌های زیادی برانگیخته است. OpenAI با چندین شکایت حقوقی مرتبط با مرگ ناشی از قصور یا اقدام غیرقانونی مواجه است. در این پرونده‌ها، چت‌جی‌پی‌تی متهم شده که کاربران را به سمت باورهای هذیانی آسیب‌زا سوق داده و در برخی موارد حتی در خودکشی آن‌ها نقش داشته است.
این پرونده‌ها پس از اقدام مشابه جیمز اوتمایر، دادستان کل فلوریدا، در ماه ژوئن مطرح شده‌اند. اوتمایر در آن ماه شکایتی علیه OpenAI ثبت کرد و این شرکت را متهم ساخت که آگاهانه محصولی ناایمن را عرضه کرده است که می‌تواند به کاربران آسیب برساند. او سپس در ماه سپتامبر از دادگاهی در این ایالت خواست OpenAI را از توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی خود بدون نظارت نهادهای مستقل منع کند. او استدلال کرد که «رشد مهارنشده» این شرکت برای ساکنان فلوریدا خطرناک است.
OpenAI در واکنش به برخی حوادثی که مسئولیت آن‌ها به این شرکت نسبت داده شده، اقداماتی را برای تقویت قابلیت‌های ایمنی برنامه خود انجام داده است. این شرکت در ماه اوت نسخه ویژه‌ای از چت‌بات خود را برای افراد زیر سن قانونی با نام ChatGPT for Teens عرضه کرد. این نسخه علاوه بر تدابیر حفاظتی بیشتر و متناسب با سن کاربران، مجموعه‌ای از قابلیت‌های آموزشی را در اختیار نوجوانان قرار می‌دهد که در نسخه معمولی چت‌جی‌پی‌تی وجود ندارند. هدف از این امکانات، کاهش مواجهه نوجوانان با محتوای آسیب‌زاتر است.
OpenAI هنگام عرضه این نسخه اعلام کرده بود: «نوجوانان باید بتوانند از هوش مصنوعی برای یادگیری، خلق آثار و کشف موضوعات جدید استفاده کنند. اما این دسترسی باید با تدابیر حفاظتی متناسب با مرحله رشد آن‌ها همراه باشد؛ تدابیری که روابط واقعی آن‌ها با دیگران را تقویت کند و به استفاده سالم و پایدار از این فناوری کمک کند.»
با وجود تلاش‌های OpenAI برای پاسخ‌گویی به نگرانی‌های مربوط به ایمنی، این شرکت در کانادا نیز با شکایت حقوقی مواجه شده است. خانواده دختری که در جریان تیراندازی در یک مدرسه به‌شدت مجروح شده بود، علیه این شرکت شکایت کرده‌اند. آن‌ها مدعی‌اند چت‌جی‌پی‌تی از برنامه‌های مظنون این تیراندازی اطلاع داشته، اما مقام‌های مسئول را در جریان قرار نداده است.
OpenAI همچنین به دلیل حوادث اخیر امنیت سایبری، از جمله نفوذ به پلتفرم میزبانی مدل‌های هوش مصنوعی هاگینگ فیس (Hugging Face)، با انتقادهایی روبه‌رو شده است. این شرکت در ماه ژوئیه فاش کرد که دو مدل هوش مصنوعی آن هنگام ارزیابی در یک محیط آزمایشی داخلی و ایزوله، توانسته‌اند از محدودیت‌های آن محیط عبور کنند و بدون آنکه چنین دستوری دریافت کرده باشند، به پایگاه داده هاگینگ فیس نفوذ کنند. به گفته OpenAI، این اتفاق زمانی رخ داد که شرکت در حال آزمایش توانایی مدل‌ها در انجام عملیات نفوذ سایبری بود. این آزمایش‌ها در محیطی ایزوله با دسترسی محدود به شبکه انجام می‌شد و سازوکارهای حفاظتی معمول مدل‌ها نیز غیرفعال شده بودند.
این حادثه موجی از نگرانی‌ها را درباره خطرات امنیتی احتمالی مدل‌های پیشرفته و مرزی هوش مصنوعی برانگیخت. همچنین این پرسش را مطرح کرد که آیا شرکت‌های توسعه‌دهنده اساساً توانایی حفظ کنترل بر چنین مدل‌هایی را دارند یا خیر.
پوساتری در بیانیه خود تلاش کرد به بخشی از این نگرانی‌ها نیز پاسخ دهد. او گفت OpenAI قصد دارد همچنان اطلاعات مربوط به اقداماتی را که برای مقابله با مشکلات «ناهم‌راستایی» مدل‌ها انجام داده است، منتشر کند؛ مشکلاتی که در آن رفتار مدل با اهداف و محدودیت‌های تعیین‌شده برای آن مطابقت ندارد. او افزود: «ما تدابیر حفاظتی سامانه‌های پژوهشی خود را تقویت کرده‌ایم، بررسی گسترده‌تر فعالیت مدل‌ها را ادامه داده‌ایم، سازمان‌های آسیب‌دیده را مطلع کرده‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
منبع تصاویر: OpenAI