ایالت‌های آمریکا از OpenAI شکایت کردند؛ ادعا می‌کنند ChatGPT به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
هریسبورگ: دست‌کم هشت ایالت آمریکا از غول هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند مدل محبوب چت‌بات این شرکت با آسیب‌زدن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کنندگان در ایالت‌ها را نقض کرده است؛ اقدامی که دادستان‌ها آن را حاصل تلاش بی‌محابای شرکت برای کسب سود توصیف کرده‌اند.
در این دادخواست‌ها آمده است که چت‌بات این شرکت، ChatGPT، توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و پارانویا را تشدید می‌کند و به برخی افراد برای خودکشی یا آسیب‌زدن و حتی کشتن دیگران راهنمایی می‌دهد.
دادخواست‌ها همچنین مدعی‌اند چت‌بات‌ها در حالی که خود را همراه و دلسوز نشان می‌دهند، از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی هستند که با هوش مصنوعی بزرگ می‌شوند.
برنا برد، دادستان کل آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های سرکش هوش مصنوعی ــ که در یکی از دادخواست‌ها از آنها با عنوان «عاملان هک سایبری» یاد شده ــ امکان فعالیت داده است؛ مدل‌هایی که به گفته آنها به شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و برای خود دستورالعمل‌های مأموریتی جدید نوشته‌اند.
OpenAI که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای اعلام کرد برای ChatGPT تدابیر ایمنی ویژه‌ای برای کودکان در نظر گرفته و به بهبود این مدل ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی چیزی است که آن را «مدل‌های ناسازگار» می‌نامد و هیچ موردی حتی نزدیک به حادثه‌ای که در ژوئیه رخ داد و طی آن یک عامل هوش مصنوعی به یک شرکت هوش مصنوعی دیگر نفوذ کرد، پیدا نکرده است.
ایالت‌ها در شکایت‌ها به یکدیگر پیوستند
این موج شکایت‌ها تازه‌ترین مواردی است که ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان خود علیه شرکت‌های فناوری مطرح کرده‌اند؛ شرکت‌هایی که به ارائه چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی متهم شده‌اند که به کودکان آسیب می‌زنند. ایالت‌هایی که روز چهارشنبه در دادگاه‌های ایالتی شکایت‌های جداگانه‌ای ثبت کردند عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها که تاکنون علیه یک شرکت هوش مصنوعی انجام شده است» خواند.
آریزونا در دادخواست خود اعلام کرده است که ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات در میان بگذارند و گاهی آنها را از به‌اشتراک‌گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان منصرف می‌کند.
ایالت‌ها می‌گویند خطرات و آسیب‌های مربوط به نوجوانان و همچنین خطرات ناشی از عوامل هوش مصنوعی سرکش برای عموم مردم، قابل پیش‌بینی بوده است، اما OpenAI مردم را به این باور رسانده که ChatGPT آزمایش‌های ایمنی کافی را پشت سر می‌گذارد؛ در حالی که این شرکت در مسیر کسب سود، ایمنی را تضعیف کرده است.
آیداهو در دادخواست خود نوشته است: «این درآمدها هزینه سنگینی برای مردم داشته‌اند؛ مردمی که در نتیجه رفتار بی‌ملاحظه OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT، آسیب‌های جبران‌ناپذیری ــ از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی محتمل برای فروپاشی تمدن ــ متحمل شده‌اند.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است همه اتهام‌های مطرح‌شده در دادخواست‌های طولانی ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را با هدف استفاده نوجوانان معرفی کرد که در موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی بیشتری دارد.
با این حال، ایالت‌ها می‌گویند هنوز مشخص نیست نسخه فعلی تا چه اندازه کم‌خطرتر است.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT for Teens آن‌طور که باید عمل نمی‌کنند و از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، استفاده از این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری پیش‌تر نیز نتیجه‌بخش بوده‌اند.
در ماه اوت، متا پذیرفت در چارچوب یک توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار، تدابیر قوی‌تری برای حفاظت از کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام خود اجرا کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای مطرح‌شده از سوی تقریباً همه ایالت‌ها را نیز حل‌وفصل کرد.
اگرچه تدابیر ایمنی مورد توافق متا به کل صنعت فناوری تعمیم پیدا نمی‌کرد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را اتخاذ کنند.
OpenAI نیز درخواست مشابهی را مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که بر کل صنعت هوش مصنوعی، نه فقط یک شرکت، اعمال شود» همکاری کند.
OpenAI همچنین اعلام کرده است که با کارشناسان بیرونی همکاری می‌کند تا سیاست‌های شرکت و رفتار ChatGPT را بررسی کنند.
OpenAI می‌گوید ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. به گفته این شرکت، مدل ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه کاربران با محتوای مربوط به خودآزاری، خشونت، اختلالات خوردن و محتوای صریح جنسی یا گرافیکی را کاهش دهد.
این شرکت گفته است نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌گیرند. به گفته OpenAI، نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر تحقیقات هوش مصنوعی جوانان در Common Sense Media، ارزش این آمارهای OpenAI را زیر سؤال برده است.
زیمرمن گفت از یک سو، ChatGPT می‌تواند تکالیف درسی یک دانش‌آموز را در چند ثانیه انجام دهد و بنابراین حتی ۱۵ دقیقه استفاده نیز می‌تواند تأثیر قابل‌توجهی بر رشد یک نوجوان داشته باشد. او همچنین پرسید آیا OpenAI اساساً می‌داند کدام کاربران نوجوان یا کودک هستند، زیرا آزمایش‌های سازمان او نشان داده است که ChatGPT نتوانسته یا نخواسته تشخیص دهد کاربر کودک است.