شکایت ۸ ایالت آمریکا از OpenAI به دلیل نگرانی‌های ایمنی ChatGPT و آسیب‌های ادعایی به کودکان
هشت ایالت آمریکا با طرح شکایت علیه OpenAI مدعی شده‌اند که ChatGPT کودکان را در معرض تعاملات آسیب‌زا قرار داده و این شرکت درباره ایمنی چت‌بات خود به والدین اطلاعات گمراه‌کننده ارائه کرده است. این اقدام حقوقی در حالی صورت می‌گیرد که نظارت بر عملکرد ChatGPT شدت گرفته، OpenAI با شکایت‌های جداگانه‌ای درباره آسیب‌های ادعایی به کاربران روبه‌رو است و هم‌زمان تلاش می‌کند تدابیر حفاظتی بیشتری برای کاربران کم‌سن‌وسال فراهم کند.
شرکت OpenAI با موج تازه‌ای از شکایت‌های حقوقی در آمریکا مواجه شده است. هشت ایالت این کشور، این شرکت را متهم کرده‌اند که از طریق ChatGPT ایمنی کودکان را به خطر انداخته و درباره میزان امنیت این چت‌بات، والدین را گمراه کرده است.
برنا برد، دادستان کل آیووا، اعلام کرد که ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا هرکدام به‌طور جداگانه در دادگاه‌های ایالتی خود علیه OpenAI شکایت کرده‌اند. در این پرونده‌ها ادعا شده است که عملکرد این شرکت به کاربران کم‌سن‌وسال آسیب رسانده و قوانین ایالتی را نقض کرده است.
برد گفت هدف از شکایت آیووا، پاسخ‌گو کردن OpenAI در قبال رفتاری است که او آن را بی‌پروا و خلاف قانون توصیف می‌کند. او این شرکت را متهم کرد که با وجود فراهم کردن امکان تعاملات بالقوه خطرناک، مدعی بوده چت‌باتش ایمن است.
برد در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید.» او مدعی شد که ChatGPT توصیه‌های پزشکی خطرناکی ارائه کرده، افراد را به آسیب رساندن به دیگران تشویق کرده و به برخی کاربران برای خودکشی راهنمایی داده است؛ آن هم در حالی که خود را همراهی قابل اعتماد معرفی می‌کند.
این اتهامات هنوز در دادگاه اثبات نشده‌اند.
درو پوساتری، سخنگوی OpenAI، در دفاع از تدابیر ایمنی این شرکت گفت محصولات OpenAI به سازوکارهای حفاظتی متناسب با سن کاربران مجهز هستند؛ قابلیت‌هایی که بسیاری از خدمات هوش مصنوعی رقیب از آن‌ها برخوردار نیستند. او افزود این شرکت در همکاری با ایالت‌ها مشغول تدوین سیاست‌هایی است که هدف آن‌ها تقویت استانداردهای ایمنی در سراسر صنعت هوش مصنوعی است.
پوساتری گفت: «اگرچه هیچ سیستمی نمی‌تواند کاملاً بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه‌های آن‌ها در فعالیت‌های خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم. این اقدامات در ادامه قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران خواهد بود که هم‌اکنون نیز در دسترس هستند.»
افزایش فشارهای حقوقی بر OpenAI بر سر ایمنی کاربران
شکایت‌های تازه، فشار بر شرکت‌های فعال در حوزه هوش مصنوعی را به دلیل خطرات احتمالی تعامل با چت‌بات‌ها افزایش داده است؛ خطراتی که به‌ویژه کودکان و افرادی را که با مشکلات عاطفی و روانی دست‌وپنجه نرم می‌کنند، تهدید می‌کند.
در چندین پرونده حقوقی علیه OpenAI که با موضوع مرگ ناشی از قصور مطرح شده‌اند، شاکیان مدعی شده‌اند گفت‌وگو با ChatGPT در شکل‌گیری باورهای هذیانی آسیب‌زا یا وقوع خودکشی نقش داشته است. جیمز اوتمایر، دادستان کل فلوریدا، نیز در ماه ژوئن از این شرکت شکایت کرد و مدعی شد OpenAI آگاهانه محصولی ناایمن را عرضه کرده است که می‌تواند به کاربران آسیب برساند.
این پرونده‌ها پرسش‌هایی جدی درباره مسئولیت توسعه‌دهندگان در قبال پاسخ‌های چت‌بات‌ها مطرح کرده‌اند؛ به‌ویژه زمانی که کاربران درباره موضوعات حساسی مانند سلامت روان یا مشکلات پزشکی از این ابزارها مشورت می‌گیرند. همچنین، نحوه اطلاع‌رسانی شرکت‌ها به خانواده‌ها درباره خطرات احتمالی و چگونگی واکنش آن‌ها در شرایطی که تعاملات ممکن است خطرناک شوند، بیش از پیش زیر ذره‌بین قرار گرفته است.
گسترش تدابیر حفاظتی ChatGPT برای کاربران کم‌سن‌وسال
OpenAI طی یک سال گذشته تدابیر حفاظتی بیشتری برای کودکان و نوجوانان معرفی کرده است. این شرکت در ماه اوت نسخه ویژه نوجوانان ChatGPT با نام ChatGPT for Teens را راه‌اندازی کرد. این نسخه تجربه‌ای اختصاصی با ابزارهای آموزشی و سازوکارهای ایمنی متناسب با سن کاربران ارائه می‌دهد و هدف آن کاهش مواجهه نوجوانان با محتوای آسیب‌زا یا نامناسب با مرحله رشد آن‌هاست.
OpenAI هنگام معرفی این نسخه اعلام کرد که نوجوانان باید بتوانند از هوش مصنوعی برای یادگیری، خلق آثار جدید و کشف موضوعات مختلف استفاده کنند. در عین حال، تدابیر حفاظتی باید با نیازهای رشدی آن‌ها سازگار باشد، از روابطشان در دنیای واقعی حمایت کند و استفاده سالم از این فناوری را تشویق کند.
این شرکت همچنین در چارچوب تلاش‌های گسترده‌تر خود برای افزایش ایمنی، قابلیت‌های کنترل والدین و یادآوری زمان استراحت را معرفی کرده و اعلام کرده است که مشورت با متخصصان و سیاست‌گذاران را ادامه خواهد داد.
با این حال، شکایت‌های حقوقی اخیر نشان می‌دهند که همچنان درباره کافی بودن این اقدامات برای مقابله با خطرات استفاده کودکان و نوجوانان از چت‌بات‌ها اختلاف‌نظر وجود دارد.
در جریان رسیدگی به این پرونده‌ها، ادعاهای مطرح‌شده از سوی ایالت‌ها بر اساس قوانین مربوط به هر ایالت بررسی خواهد شد. این شکایت‌ها در حالی فشارهای حقوقی و نظارتی بر OpenAI را افزایش می‌دهند که این شرکت در تلاش است سازوکارهای حفاظتی خود را برای کاربران آسیب‌پذیر گسترش دهد.