شکایت‌های جدید علیه OpenAI: «اشتیاق سیری‌ناپذیر برای پیروزی در رقابت هوش مصنوعی» به کاربران آسیب زده است
نویسنده: آترا الناشار | تحریریه اخبار ملی
واشنگتن (TNND) — برای نخستین بار، چندین ایالت آمریکا با طرح شکایت‌های حقوقی هماهنگ علیه OpenAI، این شرکت را متهم کرده‌اند که چت‌بات چت‌جی‌پی‌تی به کودکان آسیب رسانده و با گمراه کردن والدین، آن‌ها را به این باور رسانده است که استفاده از این محصول ایمن است.
هشت ایالت آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا مدعی شده‌اند که OpenAI قوانین مختلف حمایت از مصرف‌کنندگان را نقض کرده است. به گفته این ایالت‌ها، یکی از موارد نقض قانون، خودداری از افشای اطلاعات مربوط به خطرات چت‌جی‌پی‌تی برای کودکان یا پنهان کردن این اطلاعات بوده است.
جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، گفت: «ما می‌دانیم که OpenAI تمام این محصولات را با سرعتی باورنکردنی عرضه کرده و این کار را به شکلی انجام داده که ایمن نبوده است.» او افزود: «می‌دانیم که این محصولات ایمن نبوده‌اند، زیرا نمونه‌های بی‌شماری وجود دارد که در آن‌ها به کودکان آموزش داده شده چگونه خودکشی کنند یا چگونه با کودکان دیگر وارد فعالیت‌های جنسی خطرناک شوند.»
در متن شکایت‌ها به چندین مورد خودکشی کاربران زیر سن قانونی اشاره شده است؛ کاربرانی که پیش از مرگ با چت‌بات گفت‌وگو کرده، مشکلات و رنج‌های خود را با آن در میان گذاشته و درباره چگونگی پایان دادن به زندگی‌شان از آن راهنمایی خواسته بودند.
در بخشی از متن شکایت‌ها آمده است: «اظهارات گمراه‌کننده مکرر متهمان و اشتیاق سیری‌ناپذیر آن‌ها برای پیروزی در رقابت هوش مصنوعی، حتی به قیمت عرضه بی‌ملاحظه مدل‌های ناایمن چت‌جی‌پی‌تی به عموم مردم، باعث شده است عاملان تیراندازی‌های جمعی مورد کمک و حمایت قرار گیرند، به افراد آسیب‌پذیر برای خودکشی راهنمایی داده شود، علائم بیماری در افراد دارای مشکلات روان‌شناختی تشدید شود و افراد زیر سن قانونی به ابزاری وابسته شوند که برای جمع‌آوری داده‌هایشان، بدون نظارت والدین، دلسوزی و همدلی انسانی را وانمود می‌کند.»
درو پوساتری، سخنگوی OpenAI، در گفت‌وگو با رسانه‌ها اظهار داشت: «اگرچه هیچ سیستمی نمی‌تواند بی‌نقص باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا از دیدگاه‌های تخصصی آن‌ها در فعالیت‌هایمان بهره بگیریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران که هم‌اکنون در دسترس هستند.» او همچنین تأکید کرد که OpenAI متعهد است برای تدوین سیاست‌های مربوط به هوش مصنوعی با ایالت‌ها همکاری کند؛ سیاست‌هایی که به‌جای هدف قرار دادن یک شرکت خاص، بر کل این صنعت اعمال شوند.
در ماه ژوئن نیز جیمز اوتمایر، دادستان کل فلوریدا، شکایتی علیه OpenAI مطرح کرده بود. او نیز مدعی شده بود که این شرکت برای عرضه سریع چت‌جی‌پی‌تی، ایمنی افراد زیر سن قانونی را نادیده گرفته و خطرات این محصول را پنهان کرده است. شماری از افراد نیز به‌طور جداگانه شکایت‌هایی مطرح کرده‌اند و مدعی شده‌اند که چت‌جی‌پی‌تی باعث بروز مشکلات سلامت روان در آن‌ها شده یا مشکلات موجودشان را تشدید کرده است.
شکایت‌های تازه یک هفته پس از آن مطرح شده‌اند که سازمان ناظر بر ایمنی دیجیتال «کامن سنس مدیا» (Common Sense Media)، نسخه ویژه نوجوانان چت‌جی‌پی‌تی را محصولی با «خطر غیرقابل‌قبول» برای کاربران زیر سن قانونی ارزیابی کرد. این سازمان پس از آزمایش بیش از چهار هزار درخواست متنی، پیش و پس از فعال شدن تنظیمات ویژه نوجوانان در ماه اوت، به این نتیجه رسید. یکی از یافته‌های این بررسی نشان می‌داد که چت‌بات در بیش از یک‌چهارم مواردی که وضعیت کاربر مستلزم ارجاع به خدمات مداخله در بحران سلامت روان بود، نتوانسته بود ضرورت چنین ارجاعی را تشخیص دهد.
OpenAI در واکنش اعلام کرد که یافته‌های این بررسی دقیق نیست و از کامن سنس مدیا خواست مطالعه خود را دوباره انجام دهد.