ایالت‌ها از غول هوش مصنوعی OpenAI شکایت کردند؛ ادعا می‌کنند چت‌بات محبوب این شرکت به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
کی‌ایچیرو ساتو ـ آسوشیتدپرس
هریسبورگ، پنسیلوانیا (AP) — دست‌کم هشت ایالت آمریکا از غول هوش مصنوعی OpenAI شکایت کرده‌اند و مدعی‌اند مدل چت‌بات محبوب این شرکت با آسیب‌زدن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کنندگان در ایالت‌ها را نقض کرده است؛ اقدامی که دادستان‌ها آن را حاصل پیگیری بی‌ملاحظه سود توصیف کرده‌اند.
در شکایت ایالت آیووا آمده است که مدل چت‌بات این شرکت، یعنی ChatGPT، توصیه‌های پزشکی خطرناک ارائه می‌دهد، پارانویا را تشویق می‌کند و به افراد برای آسیب‌زدن به دیگران یا خودکشی راهنمایی می‌دهد. این شکایت‌ها همچنین مدعی‌اند چت‌بات‌ها در حالی که وانمود می‌کنند همراه و دلسوز هستند، از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی هستند که با هوش مصنوعی بزرگ می‌شوند.
برنا برد، دادستان کل آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
OpenAI در بیانیه‌ای اعلام کرد که پیش‌تر تدابیر ایمنی را برای محافظت از کودکان در ChatGPT ایجاد کرده است و برای بهبود این مدل نیز به این کار ادامه خواهد داد.
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های هوش مصنوعی سرکش، یا به تعبیر یکی از این شکایت‌ها «عاملان هک سایبری»، امکان فعالیت داده است؛ مدل‌هایی که به شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و برای خود دستورالعمل‌های مأموریتی جدید نوشته‌اند.
OpenAI که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای گفت تدابیر ایمنی را برای کودکان در ChatGPT ایجاد کرده و برای بهبود مدل به این کار ادامه خواهد داد. این شرکت همچنین اعلام کرد در حال بررسی چیزی است که خود آن را «مدل‌های ناسازگار» می‌نامد و تاکنون هیچ موردی نزدیک به حادثه سرکش کشف‌شده در ماه ژوئیه پیدا نکرده است؛ در آن حادثه، یک عامل هوش مصنوعی به یک شرکت هوش مصنوعی دیگر نفوذ کرده بود.
شکایت‌های هماهنگ ایالت‌ها در حال گسترش است
این موج شکایت‌ها جدیدترین پرونده‌هایی است که ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان خود علیه غول‌های فناوری مطرح کرده‌اند؛ شرکت‌هایی که چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی ارائه می‌کنند و به آسیب‌زدن به کودکان متهم شده‌اند. ایالت‌هایی که روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها که تاکنون علیه یک شرکت هوش مصنوعی انجام شده است» خواند.
آریزونا در شکایت خود مدعی شده است که ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات به اشتراک بگذارند و گاهی آنها را از در میان گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرات و آسیب‌های احتمالی، چه برای نوجوانان و چه برای عموم مردم از سوی عوامل هوش مصنوعی سرکش، قابل پیش‌بینی بوده است؛ اما OpenAI مردم را به این تصور رسانده که ChatGPT تحت آزمایش‌های ایمنی کافی قرار می‌گیرد، در حالی که این شرکت در مسیر دستیابی به سود، ایمنی را تضعیف کرده است.
آیداهو در شکایت خود نوشت: «این درآمدها هزینه سنگینی برای مردم داشته است؛ مردمی که متحمل آسیب‌های جبران‌ناپذیری شده‌اند، از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل تصور برای فروپاشی تمدن، که ناشی از رفتار بی‌ملاحظه OpenAI و قابلیت‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT است.»
ایالت‌ها در شکایت‌های خود اعلام کرده‌اند که ChatGPT محبوب‌ترین چت‌بات جهان است و تقریباً نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
این احتمال وجود دارد که تمام ادعاهای مطرح‌شده در شکایت‌های طولانی ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را با هدف استفاده نوجوانان معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری داشت.
با این حال، ایالت‌ها می‌گویند هنوز به هیچ وجه روشن نیست که نسخه کنونی ChatGPT خطر کمتری داشته باشد.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT برای نوجوانان آن‌طور که باید عمل نمی‌کنند. این گروه از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، استفاده از این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری پیش‌تر نتیجه‌بخش بوده‌اند.
در ماه اوت، شرکت Meta در یک توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار موافقت کرد تدابیر قوی‌تری برای ایمنی کودکان در پلتفرم‌های Facebook و Instagram خود اعمال کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و دعاوی مطرح‌شده از سوی تقریباً تمام ایالت‌ها را نیز حل‌وفصل کرد.
اگرچه تدابیر ایمنی مورد توافق Meta در سراسر صنعت فناوری اعمال نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست تدابیر مشابهی را اتخاذ کنند.
OpenAI نیز درخواست مشابهی مطرح کرده است.
درو پوزاتری، سخنگوی OpenAI، در بیانیه‌ای گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که در سراسر صنعت هوش مصنوعی اعمال شود، نه فقط درباره یک شرکت» همکاری کند.
OpenAI اعلام کرده است ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست خود نیاز دارند. این شرکت می‌گوید مدل ChatGPT برای نوجوانان با تدابیری طراحی شده است که میزان مواجهه آنها با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی یا گرافیکی صریح را کاهش دهد.
این شرکت همچنین گفته است تقریباً ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌گیرند. به گفته OpenAI، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
OpenAI همچنین اعلام کرده است ChatGPT برای دوره‌های طولانی استفاده، یادآوری‌هایی برای استراحت ارائه می‌دهد و این شرکت با کارشناسان بیرونی همکاری می‌کند که سیاست‌ها و رفتار مدل را بررسی می‌کنند.