شکایت هشت ایالت آمریکا از اوپن‌ای‌آی؛ اتهام آسیب‌رساندن چت‌جی‌پی‌تی به کودکان و فریب بزرگسالان
نویسنده: پاتریک فیلیپس
منبع انتشار: فاکس لوکال | فناوری
تاریخ انتشار: ۱۸ اکتبر ۲۰۲۶، ساعت ۱۰:۲۲ شب به وقت شرق آمریکا
خلاصه خبر
- هشت ایالت آمریکا از اوپن‌ای‌آی شکایت کرده‌اند و مدعی‌اند این شرکت با اولویت‌دادن بی‌ملاحظه به سود، ایمنی را نادیده گرفته، بزرگسالان را گمراه کرده و از طریق محتوای خطرناک و رویه‌های فریبنده به افراد زیر سن قانونی آسیب رسانده است.
- اوپن‌ای‌آی می‌گوید تدابیر حفاظتی برای کودکان را در چت‌جی‌پی‌تی گنجانده است. این شرکت اعلام کرده بیشتر نوجوانان از این ابزار برای یادگیری استفاده می‌کنند و روزانه کمتر از ۱۵ دقیقه در آن وقت می‌گذرانند. همچنین در ماه اوت نسخه‌ای ویژه نوجوانان معرفی کرده که محدودیت‌های ایمنی سخت‌گیرانه‌تری دارد؛ با این حال، ایالت‌ها می‌گویند مشخص نیست این نسخه واقعاً ایمن‌تر باشد.
- شاکیان خواستار جریمه‌های مالی، بازپرداخت خسارت کاربران و صدور دستورهای قضایی الزام‌آور هستند؛ از جمله احراز سن کاربران، محدودکردن گردآوری داده‌های افراد زیر سن قانونی، شفاف‌سازی خطرات و محدودکردن آزمایش مدل‌های پیشرفته و خودبهبوددهنده هوش مصنوعی به محیط‌های امن و مستقل.
هشت ایالت آمریکا علیه اوپن‌ای‌آی، شرکت فعال در حوزه هوش مصنوعی و سازنده چت‌بات چت‌جی‌پی‌تی، اقامه دعوا کرده‌اند. این ایالت‌ها شرکت را به نقض قوانین حمایت از مصرف‌کنندگان متهم می‌کنند و می‌گویند اوپن‌ای‌آی در پیگیری سود، بی‌ملاحظه عمل کرده، به کودکان آسیب رسانده و بزرگسالان را فریب داده است.
تصویر کلی ماجرا
به گزارش آسوشیتدپرس، شکایت‌های ثبت‌شده از سوی آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی مدعی‌اند چت‌جی‌پی‌تی توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و افکار پارانوئید را تشدید می‌کند و به کاربران آموزش می‌دهد چگونه به خود یا دیگران آسیب برسانند.
در این شکایت‌ها همچنین ادعا شده است که چت‌بات‌ها در برابر کاربران آسیب‌پذیر، از جمله نوجوانان، نقش دوست را بازی می‌کنند، اما در واقع از آسیب‌پذیری آن‌ها سوءاستفاده می‌کنند.
آریزونا در شکایت خود استدلال کرده است که چت‌جی‌پی‌تی نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این سامانه در میان بگذارند و گاهی سپس آن‌ها را از مطرح‌کردن همین اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد. به گفته ایالت‌های شاکی، احتمال بروز این خطرات و آسیب‌ها قابل پیش‌بینی بوده است؛ با این حال، اوپن‌ای‌آی مردم را به این باور رسانده که آزمایش‌های ایمنی کافی انجام می‌دهد، درحالی‌که به ادعای شاکیان، برای کسب سود، ایمنی را تضعیف می‌کند.
در شکایت آیداهو آمده است: «این درآمدها به بهای سنگینی برای جامعه به دست آمده‌اند؛ جامعه‌ای که در نتیجه رفتار بی‌ملاحظه اوپن‌ای‌آی و ویژگی‌ها و محتوای منحصربه‌فرداً خطرناک چت‌جی‌پی‌تی، آسیب‌هایی جبران‌ناپذیر متحمل شده است؛ از جمله از دست‌دادن عزیزان، حملات سایبری هولناک و اکنون تهدیدی باورپذیر علیه بقای تمدن.»
اظهارات مقام‌های ایالتی
برنا بِرد، دادستان کل آیووا، در بیانیه‌ای گفت: «اوپن‌ای‌آی به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
تیم گریفین، دادستان کل آرکانزاس، گفت: «در شکایت ما ادعا شده است که مصرف‌کنندگان، از جمله افراد زیر سن قانونی، از چت‌جی‌پی‌تی برای دریافت دستورالعمل‌های مربوط به خودآزاری، از جمله خودکشی، استفاده کرده‌اند. همچنین نمونه‌هایی در این شکایت آمده است که کاربران توانسته‌اند تدابیر ایمنی اوپن‌ای‌آی را دور بزنند و پاسخ‌هایی بگیرند که به گفته شرکت، قرار بوده است سازوکارهای حفاظتی مانع تولید آن‌ها شوند. این نمونه‌ها پرسش‌های جدی درباره درستی اطلاعاتی که درباره تدابیر ایمنی محصول به مصرف‌کنندگان داده شده است، مطرح می‌کنند. اوپن‌ای‌آی به ما اطمینان می‌دهد که چت‌جی‌پی‌تی ایمن است، اما پیامدهای این اطمینان‌بخشی، از دست‌رفتن جان انسان‌ها و آسیب‌دیدن افراد بوده است.»
کریس مِیِز، دادستان کل آریزونا، گفت: «اوپن‌ای‌آی محصولی طراحی کرده است که کاربران جوان را جذب کند و تا حد امکان آن‌ها را درگیر نگه دارد تا بتواند حجم گسترده‌ای از اطلاعات شخصی‌شان را برای منافع تجاری شرکت گردآوری کند. اوپن‌ای‌آی با خودداری از اجرای تدابیر حفاظتی کافی برای کاربران و اقدامات شفاف‌ساز، با وجود نشانه‌های روشن از تعامل مستمر افراد زیر سن قانونی با چت‌باتش، ایمنی مردم آریزونا را به خطر انداخته است.»
جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، گفت: «بارها دیده‌ایم که اوپن‌ای‌آی خطرآفرین است و شرکت برای متوقف‌کردن این وضعیت کار چندانی انجام نمی‌دهد. هیچ سازوکار احراز سنی وجود ندارد و برای گفت‌وگو درباره خودکشی، تیراندازی در مدارس یا خودآزاری نیز هیچ محدودیت حفاظتی‌ای در نظر گرفته نشده است.»
مایک هیلگرز، دادستان کل نبراسکا، نیز در بیانیه‌ای گفت: «ایالات متحده باید در رقابت هوش مصنوعی پیروز شود. آزمایشگاه‌های پیشرو ابزارهای لازم برای حفظ جایگاه رهبری را در اختیار دارند، اما در تلاش برای تصاحب سهم بیشتری از بازار، نباید مشتریان را درباره فناوری خود فریب دهند یا اطلاعات نادرست به آن‌ها بدهند. اوپن‌ای‌آی در این مورد دقیقاً همین کار را انجام داده است.»
موضع اوپن‌ای‌آی
اوپن‌ای‌آی، مستقر در سان‌فرانسیسکو، در بیانیه‌ای به آسوشیتدپرس اعلام کرد که تدابیر ایمنی ویژه کودکان را در چت‌جی‌پی‌تی تعبیه کرده است.
این شرکت افزود که به توسعه اقدامات احتیاطی برای بهبود مدل ادامه می‌دهد و مدل‌هایی را که عملکردشان با اهداف مورد انتظار هم‌راستا نیست، بررسی می‌کند. اوپن‌ای‌آی گفت در این بررسی‌ها موردی نزدیک به حادثه غیرعادی کشف‌شده در ماه ژوئیه نیافته است؛ حادثه‌ای که در آن یک عامل هوش مصنوعی به سامانه‌های یک شرکت دیگر در همین حوزه نفوذ کرده بود.
نسخه ویژه نوجوانان
اوپن‌ای‌آی در ماه اوت نسخه‌ای از چت‌جی‌پی‌تی را معرفی کرد که به‌طور ویژه برای نوجوانان ۱۳ تا ۱۷ ساله طراحی شده است. شرکت می‌گوید این نسخه در موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری دارد. این مدل همچنین برای انجام تکالیف و پشتیبانی از مطالعه طراحی شده است.
آن اولیری، معاون سیاست‌گذاری جهانی اوپن‌ای‌آی، هنگام معرفی این نسخه گفت: «می‌خواهیم با نوجوانان متناسب با سن و شرایط خودشان رفتار کنیم. این یعنی باید پاسخ‌هایی متناسب با مرحله رشد آن‌ها ارائه دهیم؛ نه اینکه با آن‌ها از موضع بالا صحبت کنیم یا مانند کودکان با آن‌ها رفتار کنیم. در عین حال، باید اطمینان حاصل کنیم که در معرض محتوایی قرار نمی‌گیرند که نباید به آن دسترسی داشته باشند.»
از آنجا که این نسخه در ماه اوت عرضه شده است، ممکن است موارد مطرح‌شده در شکایت ایالت‌ها به اتفاقاتی مربوط باشند که پیش از عرضه آن رخ داده‌اند.
با این حال، ایالت‌های شاکی می‌گویند هنوز روشن نیست که نسخه ویژه کودکان و نوجوانان واقعاً ایمن‌تر باشد.
درو پوزاتری، سخنگوی اوپن‌ای‌آی، به آسوشیتدپرس گفت که شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که در سراسر صنعت هوش مصنوعی اعمال شوند، نه فقط برای یک شرکت،» همکاری کند.
اوپن‌ای‌آی اعلام کرده است که نزدیک به ۹۰ درصد کاربران نوجوان چت‌جی‌پی‌تی از آن برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری استفاده می‌کنند. به گفته شرکت، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز در این پلتفرم وقت می‌گذرانند.
خواسته‌های شاکیان چیست؟
ایالت‌ها از دادگاه‌ها خواسته‌اند مجموعه‌ای از جریمه‌های مالی و محدودیت‌ها را برای نحوه تعامل چت‌جی‌پی‌تی با افراد زیر سن قانونی، داده‌هایی که می‌تواند گردآوری کند و چگونگی توسعه بیشتر این فناوری در نظر بگیرند. آن‌ها همچنین خواستار آن شده‌اند که اوپن‌ای‌آی خسارت کاربرانی را که در نتیجه اقدامات غیرقانونی چت‌بات متحمل زیان شده‌اند، جبران کند.
برای نمونه، در شکایت آرکانزاس درخواست شده است که گردآوری داده‌های کاربران زیر سن قانونی ممنوع شود، اوپن‌ای‌آی موظف باشد اطلاعات روشنی درباره خطرات چت‌جی‌پی‌تی ارائه دهد و آزمایش‌های بیشتر هوش مصنوعی پیشرفته و ساخت مدل‌هایی که قادر به بهبود خود هستند، تا زمان استقرار تدابیر حفاظتی کافی متوقف شود.
آریزونا در شکایت خود خواستار صدور حکم دائمی برای ملزم‌کردن اوپن‌ای‌آی به اجرای تدابیر و پروتکل‌های ایمنی بیشتر شده است. این ایالت همچنین می‌خواهد دادگاه آزمایش مدل‌های پیشرفته هوش مصنوعی را در خارج از «محیط آزمایشی امن و مستقلاً تأییدشده» ممنوع کند و شرکت را ملزم سازد هرگونه حادثه‌ای را که در آن یک مدل یا عامل هوش مصنوعی از کنترل‌های تعیین‌شده خارج می‌شود یا به سامانه‌هایی دسترسی پیدا می‌کند که مجاز به ورود به آن‌ها نیست، «بی‌درنگ افشا کند».
شکایت ویرجینیای غربی نیز خواستار اجرای «سازوکار مؤثر احراز سن»، تعیین تنظیمات پیش‌فرض متناسب با سن، از جمله محدودیت مدت جلسه و استفاده در ساعات شب، فراهم‌کردن کنترل‌های والدین و اجرای اجباری پروتکل‌های ارجاع به خدمات بحران است.
منابع
اطلاعات این گزارش از آسوشیتدپرس و دفاتر دادستان‌های کل آرکانزاس، آریزونا، آیووا، آیداهو، نبراسکا و ویرجینیای غربی گرفته شده است. این گزارش از اورلاندو تهیه شده است.