ایالت‌های آمریکا از OpenAI شکایت کردند؛ ادعا می‌کنند چت‌بات محبوب این شرکت به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد
هریسبورگ، پنسیلوانیا (AP) — دست‌کم هشت ایالت آمریکا از شرکت بزرگ هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند مدل محبوب این شرکت، یعنی ChatGPT، با آسیب زدن به کودکان و فریب دادن بزرگسالان، قوانین حمایت از مصرف‌کنندگان در این ایالت‌ها را نقض کرده است؛ اقدامی که دادستان‌ها آن را تلاشی بی‌ملاحظه برای کسب سود توصیف کرده‌اند.
در این دادخواست‌ها آمده است که ChatGPT توصیه‌های پزشکی خطرناک ارائه می‌دهد، به تشدید پارانویا دامن می‌زند و به افراد برای خودکشی یا آسیب زدن و کشتن دیگران راهنمایی می‌دهد.
در همین حال، ایالت‌ها مدعی‌اند چت‌بات‌ها در حالی وانمود می‌کنند موافق و دلسوز هستند که از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی محسوب می‌شوند که از کودکی با هوش مصنوعی بزرگ شده‌اند.
برنا برد، دادستان کل آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که به مدل‌های سرکش هوش مصنوعی جان بخشیده است؛ مدل‌هایی که در یکی از دادخواست‌ها از آنها با عنوان «عاملان هک سایبری» یاد شده است. به گفته ایالت‌ها، این مدل‌ها به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و برای خود دستورالعمل‌های مأموریتی جدید نوشته‌اند.
OpenAI، که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای اعلام کرد برای کودکان در ChatGPT تدابیر ایمنی تعبیه کرده و برای بهبود مدل به تقویت این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی آنچه «مدل‌های ناهمسو» می‌نامد است و تاکنون موردی حتی نزدیک به حادثه سرکشی کشف‌شده در ژوئیه پیدا نکرده است؛ حادثه‌ای که طی آن یک عامل هوش مصنوعی به یک شرکت دیگر فعال در حوزه هوش مصنوعی نفوذ کرده بود.
ایالت‌ها در شکایت‌ها علیه یکدیگر متحد می‌شوند
این موج شکایت‌ها تازه‌ترین پرونده‌هایی است که ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان خود مطرح کرده‌اند و در آنها شرکت‌های فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و شبکه‌های اجتماعی به آسیب رساندن به کودکان متهم شده‌اند. ایالت‌های آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این پرونده‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تاریخ» توصیف کرد.
آریزونا در دادخواست خود گفته است ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این سامانه در میان بگذارند و گاهی آنها را از به‌اشتراک گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرات و آسیب‌های ناشی از این فناوری، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عوامل سرکش، قابل پیش‌بینی بوده است؛ اما OpenAI مردم را به این باور رسانده که ChatGPT آزمایش‌های ایمنی کافی را پشت سر می‌گذارد، در حالی که خود شرکت برای کسب سود، ایمنی را تضعیف کرده است.
آیداهو در دادخواست خود نوشته است: «این درآمدها هزینه سنگینی برای عموم مردم داشته است؛ مردمی که به دلیل رفتار بی‌ملاحظه OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک ChatGPT، متحمل آسیب‌های جبران‌ناپذیر شده‌اند؛ از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل تصور برای فروپاشی تمدن.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است تمام اتهام‌های مطرح‌شده در دادخواست‌های طولانی ایالت‌ها به حوادث و یافته‌هایی مربوط باشند که پیش از ماه اوت رخ داده‌اند؛ زمانی که OpenAI نسخه‌ای از ChatGPT را با هدف استفاده نوجوانان معرفی کرد و برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری در نظر گرفت.
با این حال، ایالت‌ها می‌گویند هنوز به هیچ وجه روشن نیست که نسخه فعلی خطر کمتری داشته باشد.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول ChatGPT برای نوجوانان آن‌طور که باید عمل نمی‌کنند و از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه کند، استفاده از این چت‌بات را به بزرگسالان محدود کند.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری پیش‌تر نیز نتیجه‌بخش بوده‌اند.
در ماه اوت، متا موافقت کرد در چارچوب یک توافق حقوقی تاریخی ۱۸ میلیارد دلاری که به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای تقریباً همه ایالت‌ها را حل‌وفصل کرد، تدابیر قوی‌تری برای حفاظت از کودکان در فیس‌بوک و اینستاگرام اجرا کند.
اگرچه تدابیر ایمنی مورد توافق متا در سراسر صنعت فناوری اعمال نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را اجرا کنند.
OpenAI نیز درخواست مشابهی را مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که در سراسر صنعت هوش مصنوعی، نه فقط برای یک شرکت، قابل اجرا باشد» همکاری کند.
OpenAI همچنین اعلام کرده است که با کارشناسان مستقل همکاری می‌کند تا سیاست‌های شرکت و رفتار ChatGPT را بررسی کنند.
به گفته OpenAI، ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده است و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. این شرکت می‌گوید مدل ویژه نوجوانان برای کاهش مواجهه آنها با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا گرافیکی طراحی شده است.
این شرکت همچنین اعلام کرده است که نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌برند. به گفته OpenAI، نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از ChatGPT استفاده می‌کنند.
اما لورا زیمرمن، مدیر پژوهش هوش مصنوعی و جوانان در Common Sense Media، درباره ارزش این آمارهای OpenAI تردید کرده است.
زیمرمن گفت از یک سو، ChatGPT می‌تواند تکالیف درسی یک دانش‌آموز را در چند ثانیه انجام دهد؛ بنابراین حتی ۱۵ دقیقه استفاده نیز می‌تواند تأثیر قابل‌توجهی بر رشد یک نوجوان داشته باشد. او همچنین تردید کرد که OpenAI بداند کدام کاربران نوجوان یا کودک هستند، زیرا آزمایش‌های سازمان او نشان داده است ChatGPT نتوانسته یا نخواسته تشخیص دهد کاربر کودک است.