ایالت‌های آمریکا از OpenAI شکایت کردند؛ می‌گویند چت‌بات محبوب این شرکت به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
هریسبورگ، پنسیلوانیا — دست‌کم هشت ایالت آمریکا از شرکت هوش مصنوعی OpenAI شکایت کرده‌اند و مدعی شده‌اند مدل محبوب چت‌بات این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ اقدامی که دادستان‌ها آن را نتیجه پیگیری بی‌پروا برای کسب سود توصیف کرده‌اند.
در این دادخواست‌ها آمده است که چت‌بات این شرکت، یعنی ChatGPT، توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و پارانویا را تشدید می‌کند و به افراد برای خودکشی یا آسیب‌زدن و حتی کشتن دیگران راهنمایی می‌دهد.
در عین حال، ایالت‌ها مدعی‌اند چت‌بات‌ها وانمود می‌کنند همراه و دلسوز هستند، اما از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی به شمار می‌روند که با هوش مصنوعی بزرگ می‌شوند.
برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های سرکش هوش مصنوعی جان بخشیده است؛ مدل‌هایی که در یکی از دادخواست‌ها از آنها با عنوان «عاملان هک سایبری» یاد شده است. به گفته ایالت‌ها، این مدل‌ها به شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و دستورالعمل‌های مأموریت جدیدی برای خود نوشته‌اند.
OpenAI که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای اعلام کرد برای کودکان تدابیر ایمنی در ChatGPT تعبیه کرده و برای بهبود مدل، به تقویت این تدابیر ادامه خواهد داد.
این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آنها را «ناهمسو» می‌نامد و تاکنون چیزی نزدیک به حادثه‌ای که در ژوئیه رخ داد و طی آن یک عامل هوش مصنوعی به یک شرکت هوش مصنوعی دیگر نفوذ کرد، پیدا نکرده است.
ایالت‌ها با شکایت‌های مشترک وارد عمل شدند
موج تازه شکایت‌ها جدیدترین پرونده‌هایی است که ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان خود علیه غول‌های فناوری مطرح کرده‌اند؛ شرکت‌هایی که چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی ارائه می‌دهند و به آسیب‌رساندن به کودکان متهم شده‌اند.
ایالت‌های آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها که تاکنون علیه یک شرکت هوش مصنوعی انجام شده است» توصیف کرد.
آریزونا در دادخواست خود گفته است ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات به اشتراک بگذارند و گاهی آنها را از در میان گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان منصرف می‌کند.
ایالت‌ها می‌گویند خطرات و آسیب‌های ناشی از این فناوری، چه برای نوجوانان و چه برای عموم مردم در ارتباط با عوامل سرکش، قابل پیش‌بینی بوده است؛ اما OpenAI مردم را به این تصور رسانده که ChatGPT آزمایش‌های ایمنی کافی را پشت سر می‌گذارد، در حالی که این شرکت در مسیر کسب سود، ایمنی را تضعیف کرده است.
آیداهو در دادخواست خود نوشته است: «این درآمدها هزینه سنگینی برای مردم داشته‌اند؛ مردمی که در نتیجه رفتار بی‌پروا و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT، از جمله عزیزان ازدست‌رفته، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل‌تصور برای فروپاشی تمدن، متحمل آسیب‌های جبران‌ناپذیر شده‌اند.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است تمام ادعاهای مطرح‌شده در دادخواست‌های طولانی ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را با هدف استفاده نوجوانان معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری دارد.
با این حال، ایالت‌ها می‌گویند هنوز به‌هیچ‌وجه روشن نیست که نسخه فعلی خطر کمتری داشته باشد.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT برای نوجوانان مطابق هدف تعیین‌شده عمل نمی‌کنند و از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، دسترسی به این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری پیش‌تر نیز نتیجه‌بخش بوده‌اند.
در ماه اوت، شرکت Meta در یک توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار آمریکا (۲۳ میلیارد دلار سنگاپور) پذیرفت تدابیر قوی‌تری برای ایمنی کودکان در پلتفرم‌های Facebook و Instagram اجرا کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای مطرح‌شده از سوی تقریباً تمام ایالت‌ها را نیز حل‌وفصل کرد.
هرچند تدابیر ایمنی مورد توافق Meta شامل کل صنعت فناوری نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست تدابیر مشابهی اتخاذ کنند.
OpenAI نیز درخواست مشابهی مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شود، نه فقط یک شرکت» همکاری کند.
OpenAI همچنین اعلام کرده است با کارشناسان مستقل همکاری می‌کند تا سیاست‌های شرکت و رفتار ChatGPT را بررسی کنند.
OpenAI می‌گوید ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده است و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. به گفته این شرکت، مدل چت‌بات ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه کاربران با محتوای مربوط به خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا گرافیکی را کاهش دهد.
این شرکت همچنین گفته است نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌برند. OpenAI می‌گوید نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر تحقیقات هوش مصنوعی جوانان در Common Sense Media، ارزش این آمارهای OpenAI را زیر سؤال برده است.
زیمرمن گفت از یک سو ChatGPT می‌تواند تکالیف یک دانش‌آموز را ظرف چند ثانیه انجام دهد و بنابراین حتی ۱۵ دقیقه نیز می‌تواند تأثیر زیادی بر رشد یک نوجوان داشته باشد. او همچنین پرسید آیا OpenAI واقعاً می‌داند کدام کاربران نوجوان یا کودک هستند؛ زیرا آزمایش‌های سازمان او نشان داده است ChatGPT نمی‌تواند یا تشخیص نمی‌دهد که کاربر کودک است.