ایالت‌ها از غول هوش مصنوعی OpenAI شکایت کردند و گفتند چت‌بات محبوب این شرکت به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) — دست‌کم هشت ایالت آمریکا از شرکت بزرگ هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند مدل محبوب چت‌بات این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ اقدامی که دادستان‌ها آن را حاصل پیگیری بی‌پروا و سودمحور شرکت توصیف کرده‌اند.
در این دادخواست‌ها آمده است که چت‌بات این شرکت، یعنی ChatGPT، توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و پارانویا را تشدید می‌کند و به افراد آموزش می‌دهد چگونه خودکشی کنند یا به دیگران آسیب بزنند یا آنها را بکشند.
هم‌زمان، در دادخواست‌ها ادعا شده است که چت‌بات‌ها با تظاهر به موافقت و همدلی، از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی هستند که با هوش مصنوعی بزرگ می‌شوند.
برنا بِرد، دادستان کل آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
این ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های سرکش هوش مصنوعی جان بخشیده است؛ مدل‌هایی که در یکی از دادخواست‌ها از آنها با عنوان «عوامل هک سایبری» یاد شده و گفته شده است به شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و برای خود دستورالعمل‌های مأموریتی جدید نوشته‌اند.
OpenAI که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای اعلام کرد برای کودکان تدابیر ایمنی در ChatGPT تعبیه کرده و برای بهبود مدل، به تقویت این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی آنچه خود «مدل‌های ناهمسو» می‌نامد است و تاکنون موردی نزدیک به حادثه‌ای که در ژوئیه کشف شد و طی آن یک عامل هوش مصنوعی به یک شرکت هوش مصنوعی دیگر نفوذ کرد، پیدا نکرده است.
ایالت‌ها در شکایت‌ها به یکدیگر پیوستند
این موج شکایت‌ها تازه‌ترین نمونه از اقدام ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان است که در آنها شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و همچنین پلتفرم‌های رسانه‌های اجتماعی به آسیب‌رساندن به کودکان متهم شده‌اند. ایالت‌هایی که روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تاریخ» خواند.
آریزونا در دادخواست خود گفته است ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با آن در میان بگذارند و گاهی آنها را از به‌اشتراک‌گذاری این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرات و آسیب‌های ناشی از این فناوری، هم برای نوجوانان و هم برای عموم مردم در نتیجه فعالیت عوامل هوش مصنوعی سرکش، قابل پیش‌بینی بوده است؛ اما OpenAI مردم را به این باور رسانده که ChatGPT آزمایش‌های ایمنی کافی را پشت سر می‌گذارد، در حالی که شرکت برای کسب سود، ایمنی را تضعیف می‌کند.
آیداهو در دادخواست خود نوشته است: «این درآمدها هزینه سنگینی برای مردم داشته‌اند؛ مردمی که به دلیل رفتار بی‌پروای OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT، از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل تصور برای فروپاشی تمدن، متحمل آسیب‌های جبران‌ناپذیر شده‌اند.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است تمام اتهام‌هایی که در دادخواست‌های مفصل ایالت‌ها مطرح شده، به حوادث و یافته‌هایی مربوط باشد که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را با هدف استفاده نوجوانان معرفی کرد که در موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی بیشتری دارد.
با این حال، ایالت‌ها می‌گویند هنوز به‌هیچ‌وجه روشن نیست که نسخه فعلی خطر کمتری داشته باشد.
گروه ناظر «کامِن سِنس مدیا» هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT برای نوجوانان آن‌گونه که قرار بوده عمل نمی‌کنند و از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه کند، استفاده از این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری پیش‌تر نیز نتیجه‌بخش بوده‌اند.
در ماه اوت، متا در قالب یک توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار موافقت کرد تدابیر قوی‌تری برای ایمنی کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام خود اعمال کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای مطرح‌شده از سوی تقریباً تمامی ایالت‌ها را نیز حل‌وفصل کرد.
اگرچه تدابیر ایمنی مورد توافق متا در سراسر صنعت فناوری اعمال نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را اتخاذ کنند.
OpenAI نیز درخواست مشابهی مطرح کرده است.
درو پوزاتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شود، نه فقط یک شرکت» همکاری کند.
OpenAI همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا سیاست‌های شرکت و عملکرد ChatGPT را بررسی کنند.
OpenAI می‌گوید ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. به گفته این شرکت، مدل ChatGPT ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه کاربران با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا گرافیکی را کاهش دهد.
این شرکت گفته است نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌برند. به گفته OpenAI، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر پژوهش هوش مصنوعی برای جوانان در Common Sense Media، درباره ارزش آماری که OpenAI ارائه کرده، ابراز تردید کرد.
زیمرمن گفت از یک سو، ChatGPT می‌تواند تکالیف دانش‌آموزان را ظرف چند ثانیه انجام دهد و بنابراین حتی ۱۵ دقیقه استفاده نیز می‌تواند تأثیر قابل‌توجهی بر رشد یک نوجوان داشته باشد. او همچنین درباره اینکه آیا OpenAI می‌داند کدام کاربران نوجوان یا کودک هستند، ابراز تردید کرد؛ زیرا آزمایش‌های سازمان او نشان داده است ChatGPT نتوانسته یا تشخیص نداده است که کدام کاربر کودک است.