شکایت چند ایالت آمریکا از OpenAI؛ اتهام آسیب‌رساندن به کودکان و فریب بزرگسالان با چت‌بات محبوب این شرکت
خبرگزاری آسوشیتدپرس | مارک لوی | ۱۵ اکتبر ۲۰۲۶
دست‌کم هشت ایالت آمریکا از شرکت بزرگ هوش مصنوعی OpenAI شکایت کرده‌اند. آن‌ها می‌گویند چت‌بات محبوب این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است.
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) — دست‌کم هشت ایالت آمریکا علیه غول هوش مصنوعی OpenAI اقامه دعوی کرده‌اند. به گفته شاکیان، چت‌بات محبوب این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ اقدامی که دادستان‌ها آن را نتیجه سودجویی بی‌پروا و بی‌توجهی به پیامدهای آن توصیف می‌کنند.
بر اساس این شکایت‌ها، چت‌بات ChatGPT توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و افکار پارانوئید را تشدید می‌کند و حتی به افراد برای خودکشی یا آسیب‌رساندن و کشتن دیگران راهنمایی می‌دهد.
در این دادخواست‌ها آمده است که محتوای تولیدشده توسط ChatGPT ظاهری دل‌سوزانه و همراه با همدلی دارد، اما در عمل از آسیب‌پذیری کاربران، به‌ویژه نوجوانان، سوءاستفاده می‌کند؛ نسلی که نخستین گروهی است که با هوش مصنوعی بزرگ می‌شود.
برنا برد، دادستان کل آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید.»
ایالت‌های شاکی همچنین OpenAI را متهم کرده‌اند که به مدل‌های هوش مصنوعی خارج‌شده از کنترل، یا آنچه در یکی از شکایت‌ها «عوامل نفوذگر سایبری» نامیده شده، امکان فعالیت داده است. به ادعای آن‌ها، این عوامل به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و حتی دستورالعمل‌های مأموریت خود را بازنویسی کرده‌اند.
OpenAI مستقر در سان‌فرانسیسکو در بیانیه‌ای اعلام کرد که تدابیر حفاظتی ویژه کودکان را در ChatGPT گنجانده و برای بهبود این مدل همچنان به تقویت آن‌ها ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آن‌ها را «مدل‌های ناهمسو» می‌نامد و تاکنون با موردی حتی نزدیک به حادثه مربوط به یک عامل هوش مصنوعی خارج‌شده از کنترل در ماه ژوئیه مواجه نشده است؛ حادثه‌ای که در آن یک عامل هوش مصنوعی به شرکت دیگری فعال در این حوزه نفوذ کرده بود.
ایالت‌ها برای طرح شکایت‌های حقوقی هماهنگ شده‌اند
موج تازه شکایت‌ها، جدیدترین اقدام ایالت‌های آمریکا بر اساس قوانین حمایت از مصرف‌کنندگان علیه غول‌های فناوری است؛ شرکت‌هایی که چت‌بات‌های هوش مصنوعی و شبکه‌های اجتماعی ارائه می‌کنند و متهم‌اند محصولاتشان به کودکان آسیب می‌رساند. ایالت‌هایی که روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند، عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل بنیان‌گذار مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تمام دوران» توصیف کرد.
ایالت آریزونا در دادخواست خود اعلام کرده است که ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی‌شان را با این چت‌بات در میان بگذارند و گاهی حتی آن‌ها را از مطرح‌کردن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
به گفته ایالت‌های شاکی، خطرات و آسیب‌های احتمالی این فناوری، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عوامل هوش مصنوعی خارج‌شده از کنترل، قابل پیش‌بینی بوده است. با این حال، آن‌ها می‌گویند OpenAI کاربران را به این باور نادرست رسانده که ChatGPT تحت آزمایش‌های ایمنی کافی قرار می‌گیرد، در حالی که این شرکت برای دستیابی به سود بیشتر، ایمنی را تضعیف کرده است.
ایالت آیداهو در دادخواست خود نوشته است: «این درآمدها به بهایی سنگین برای جامعه به دست آمده‌اند؛ جامعه‌ای که آسیب‌هایی جبران‌ناپذیر، از جمله از دست‌دادن عزیزان، حملات سایبری نگران‌کننده و اکنون حتی تهدیدی محتمل برای فروپاشی تمدن را متحمل شده است. این پیامدها ناشی از رفتار بی‌پروای OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT است.»
ایالت‌های شاکی در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است همه اتهام‌های مطرح‌شده در دادخواست‌های مفصل ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را ویژه نوجوانان عرضه کرد. این نسخه با تدابیر حفاظتی سخت‌گیرانه‌تر در موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی طراحی شده است.
با این حال، ایالت‌های شاکی می‌گویند هنوز به‌هیچ‌وجه روشن نیست که نسخه فعلی ChatGPT خطر کمتری داشته باشد.
سازمان ناظر کامن سنس مدیا هفته گذشته اعلام کرد که برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT ویژه نوجوانان آن‌طور که انتظار می‌رود عمل نمی‌کنند. این سازمان از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، استفاده از این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ چندایالتی علیه صنعت فناوری پیش‌تر نیز به نتایجی منجر شده‌اند.
در ماه اوت، شرکت متا در چارچوب توافق حقوقی تاریخی به ارزش ۱.۸ میلیارد دلار پذیرفت تدابیر بیشتری برای حفاظت از کودکان در پلتفرم‌های فیسبوک و اینستاگرام اجرا کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و دعاوی مطرح‌شده از سوی تقریباً تمام ایالت‌ها را نیز حل‌وفصل کرد.
اگرچه تدابیر ایمنی که متا پذیرفت اجرا کند، در سراسر صنعت فناوری الزام‌آور نبود، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی در پیش بگیرند.
OpenAI نیز اکنون درخواست مشابهی مطرح می‌کند.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط بر یک شرکت» همکاری کند.
OpenAI همچنین اعلام کرد که با کارشناسان مستقلی همکاری می‌کند که سیاست‌های این شرکت و رفتار ChatGPT را بررسی می‌کنند.
به گفته OpenAI، ChatGPT برای کاربران ۱۳ سال به بالا طراحی شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست قانونی نیاز دارند. این شرکت می‌گوید مدل ویژه نوجوانان به‌گونه‌ای طراحی شده که مواجهه آن‌ها را با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و محتوای صریح جنسی یا تصاویر آزاردهنده کاهش دهد.
این شرکت اعلام کرد نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌گیرند. به گفته OpenAI، نوجوانان به‌طور میانگین روزانه کمتر از ۱۵ دقیقه از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر پژوهش‌های هوش مصنوعی نوجوانان در سازمان کامن سنس مدیا، ارزش و اعتبار آمار ارائه‌شده از سوی OpenAI را زیر سؤال برد.
زیمرمن گفت ChatGPT می‌تواند تکالیف مدرسه یک دانش‌آموز را در چند ثانیه انجام دهد؛ بنابراین حتی ۱۵ دقیقه استفاده از آن نیز ممکن است تأثیر چشمگیری بر رشد یک نوجوان داشته باشد. او همچنین این پرسش را مطرح کرد که آیا OpenAI واقعاً می‌داند کدام کاربران نوجوان یا کودک هستند یا نه؛ زیرا آزمایش‌های سازمان او نشان داده است ChatGPT در تشخیص اینکه کدام کاربر کودک است، ناتوان بوده یا در مواردی نتوانسته این موضوع را تشخیص دهد.
مارک لوی را در شبکه اجتماعی ایکس دنبال کنید.