ایالت‌ها از غول هوش مصنوعی OpenAI شکایت کردند؛ ادعا می‌کنند چت‌بات محبوب این شرکت به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
مارک لوی - آسوشیتدپرس
۱۶ اکتبر ۲۰۲۶
پرونده - لوگوی OpenAI روی یک تلفن همراه دیده می‌شود که در مقابل تصویری قرار گرفته است که مدل تولید تصویر Dall-E متعلق به ChatGPT آن را بر اساس متن ایجاد کرده است؛ جمعه ۸ دسامبر ۲۰۲۳ در بوستون.
مایکل دوایر، آسوشیتدپرس (عکس آرشیوی)هریسبورگ، پنسیلوانیا (AP) — دست‌کم هشت ایالت آمریکا از شرکت هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند مدل محبوب چت‌بات این شرکت با آسیب رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ اقدامی که دادستان‌ها آن را ناشی از تلاش بی‌ملاحظه برای کسب سود توصیف کرده‌اند.
در این دادخواست‌ها آمده است که ChatGPT توصیه‌های پزشکی خطرناک ارائه می‌کند، بدگمانی و پارانویا را تشدید می‌کند و به افراد برای خودکشی یا آسیب زدن و حتی کشتن دیگران راهنمایی می‌دهد.
هم‌زمان، ایالت‌ها ادعا کرده‌اند چت‌بات‌ها در حالی که خود را موافق و دلسوز نشان می‌دهند، از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی هستند که از کودکی با هوش مصنوعی بزرگ شده‌اند.
برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های هوش مصنوعی سرکش، یا به تعبیر یکی از دادخواست‌ها «عاملان هک سایبری»، امکان فعالیت داده است؛ مدل‌هایی که به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و برای خود دستورالعمل‌های مأموریتی جدید نوشته‌اند.
OpenAI، مستقر در سان‌فرانسیسکو، در بیانیه‌ای اعلام کرد برای کودکان سازوکارهای ایمنی را در ChatGPT تعبیه کرده و برای بهبود مدل به تقویت این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آن‌ها را «ناهمسو» می‌نامد و تاکنون هیچ موردی حتی نزدیک به حادثه سرکشانه‌ای که در ژوئیه کشف شد پیدا نکرده است؛ در آن حادثه، یک عامل هوش مصنوعی به شرکت دیگری در حوزه هوش مصنوعی نفوذ کرده بود.
ایالت‌ها در شکایت‌ها متحد می‌شوند
این موج شکایت‌ها تازه‌ترین اقدام ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان است که در آن، شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی به آسیب رساندن به کودکان متهم شده‌اند. ایالت‌هایی که روز چهارشنبه به‌طور جداگانه در دادگاه‌های ایالتی شکایت کردند عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تاریخ» توصیف کرد.
آریزونا در دادخواست خود گفته است ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات در میان بگذارند و گاهی آن‌ها را از به اشتراک گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان منصرف می‌کند.
ایالت‌ها می‌گویند خطرها و آسیب‌ها، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عاملان هوش مصنوعی سرکش، قابل پیش‌بینی بوده است، اما OpenAI مردم را به این تصور رسانده که ChatGPT مراحل کافی آزمایش ایمنی را پشت سر گذاشته است؛ در حالی که این شرکت در مسیر کسب سود، ایمنی را تضعیف می‌کند.
آیداهو در دادخواست خود نوشته است: «این درآمدها هزینه سنگینی برای مردم داشته‌اند؛ مردمی که به‌دلیل رفتار بی‌ملاحظه OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT، آسیب‌های جبران‌ناپذیری از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل تصور برای فروپاشی تمدن متحمل شده‌اند.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
این احتمال وجود دارد که همه ادعاهای مطرح‌شده در دادخواست‌های طولانی ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT طراحی‌شده برای نوجوانان را معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، حفاظت‌های قوی‌تری داشت.
با این حال، ایالت‌ها می‌گویند هنوز به‌هیچ‌وجه روشن نیست که نسخه فعلی خطر کمتری داشته باشد.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از سازوکارهای حفاظتی OpenAI در محصول ChatGPT برای نوجوانان آن‌طور که باید عمل نمی‌کنند و از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، دسترسی به این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری نتایجی نیز به همراه داشته‌اند.
در ماه اوت، متا موافقت کرد در قالب یک توافق حقوقی تاریخی ۱۸ میلیارد دلاری که به محاکمه درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای مطرح‌شده از سوی تقریباً همه ایالت‌ها را حل‌وفصل کرد، تدابیر قوی‌تری برای حفاظت از کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام اعمال کند.
اگرچه تدابیر ایمنی مورد توافق متا در سراسر صنعت اعمال نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را اتخاذ کنند.
OpenAI نیز درخواست مشابهی را مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شود، نه فقط یک شرکت» همکاری کند.
OpenAI همچنین اعلام کرده است با کارشناسان خارج از شرکت همکاری می‌کند؛ کارشناسانی که سیاست‌های این شرکت و رفتار ChatGPT را بررسی می‌کنند.
OpenAI می‌گوید ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. به گفته این شرکت، مدل ChatGPT برای نوجوانان به‌گونه‌ای طراحی شده است که مواجهه با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا گرافیکی را کاهش دهد.
این شرکت گفته است نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، از آن برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری استفاده می‌کنند. به گفته OpenAI، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر پژوهش هوش مصنوعی و جوانان در Common Sense Media، ارزش این آمار OpenAI را زیر سؤال برده است.
زیمرمن گفت از یک سو، ChatGPT می‌تواند تکالیف یک دانش‌آموز را ظرف چند ثانیه انجام دهد؛ بنابراین حتی ۱۵ دقیقه استفاده نیز می‌تواند تأثیر قابل‌توجهی بر رشد یک نوجوان داشته باشد. او همچنین پرسید آیا OpenAI می‌داند کدام کاربران نوجوان یا کودک هستند یا نه؛ زیرا آزمایش‌های سازمان او نشان داده است ChatGPT نمی‌تواند یا نتوانسته تشخیص دهد کدام کاربر کودک است.