هشت ایالت از OpenAI شکایت کردند؛ چت‌بات این شرکت به آسیب‌رساندن به کودکان و فریب بزرگسالان متهم است
مارک لوی | آسوشیتدپرس
هشت ایالت آمریکا از شرکت هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند چت‌بات پرطرفدار این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کننده را نقض کرده است.
تصویر آرشیوی: نماد اپلیکیشن ChatGPT روی صفحه یک تلفن هوشمند، ۴ اوت ۲۰۲۵، در شیکاگو.
عکس: کی‌ایچیرو ساتو، آسوشیتدپرس
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) ــ دست‌کم هشت ایالت آمریکا از شرکت OpenAI، غول حوزه هوش مصنوعی، شکایت کرده‌اند. آن‌ها می‌گویند مدل چت‌بات پرطرفدار این شرکت قوانین ایالتی حمایت از مصرف‌کننده را نقض کرده است؛ زیرا به کودکان آسیب می‌رساند و بزرگسالان را فریب می‌دهد. دادستان‌ها اقدامات این شرکت را تلاشی بی‌پروا برای کسب سود توصیف کرده‌اند.
در دادخواست‌ها آمده است که چت‌بات این شرکت، ChatGPT، توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدبینی و سوءظن را تشدید می‌کند و به کاربران آموزش می‌دهد چگونه خودکشی کنند یا به دیگران آسیب برسانند و حتی آن‌ها را بکشند.
شکایت‌ها همچنین مدعی‌اند که چت‌بات‌ها وانمود می‌کنند موجوداتی خوش‌برخورد و دلسوز هستند، اما در واقع از آسیب‌پذیری کاربران، به‌ویژه نوجوانان، سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسل در حال رشد با این فناوری به شمار می‌روند. گزارش آسوشیتدپرس درباره سلامت روان نوجوانان و هوش مصنوعی نیز به این موضوع پرداخته است.
دادستان کل آریزونا، کریس مایز، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌رساند و به فرمانداران دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که مدل‌های هوش مصنوعی معیوب یا «عوامل هک» را وارد بازار کرده است؛ این مدل‌ها به گفته شاکیان، به شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی آسیب رسانده‌اند و دستورالعمل‌های تازه‌ای برای انجام مأموریت‌های خود نوشته‌اند.
OpenAI، مستقر در سان‌فرانسیسکو، در بیانیه‌ای اعلام کرد که برای کودکان تدابیر ایمنی را در ChatGPT تعبیه کرده و به این کار برای بهبود مدل ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مواردی است که آن‌ها را «مدل‌های ناهماهنگ» می‌نامد و تاکنون هیچ موردی را نیافته که با حادثه ماه ژوئیه، یعنی نفوذ یک عامل هوش مصنوعی به شرکت هوش مصنوعی دیگری، قابل مقایسه باشد. گزارش آسوشیتدپرس درباره حادثه نفوذ عامل هوش مصنوعی جزئیات بیشتری ارائه می‌کند.
ایالت‌ها در اقدامی هماهنگ شکایت می‌کنند
موج تازه شکایت‌ها بخشی از تلاش ایالت‌ها برای اجرای قوانین حمایت از مصرف‌کننده است. مقام‌های ایالتی شرکت‌های بزرگ فناوری را متهم می‌کنند که با ارائه چت‌بات‌ها و شبکه‌های اجتماعی، به کودکان آسیب می‌رسانند. ایالت‌هایی که روز چهارشنبه شکایت‌های جداگانه‌ای در دادگاه‌های ایالتی ثبت کردند عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا، تگزاس و ویرجینیای غربی.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی تاکنون» توصیف کرد.
آریزونا در دادخواست خود مدعی شده است که ChatGPT نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات در میان بگذارند و گاهی آن‌ها را از مطرح کردن این اطلاعات با والدین، مسئولان یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرات و آسیب‌های ناشی از عوامل معیوب هوش مصنوعی، هم برای نوجوانان و هم برای عموم مردم، قابل پیش‌بینی بوده است. با این حال، به ادعای شاکیان، OpenAI مردم را به این باور رسانده که ChatGPT آزمایش‌های ایمنی کافی را پشت سر گذاشته است، در حالی که شرکت برای کسب سود، ایمنی را در اولویت قرار نداده است.
در دادخواست آیداهو آمده است: «این درآمدها با هزینه‌ای سنگین برای جامعه به دست آمده‌اند؛ جامعه‌ای که متحمل آسیب‌های جبران‌ناپذیری شده است، از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی باورپذیر علیه فروپاشی تمدن، آن هم در نتیجه رفتار بی‌پروا و قابلیت‌ها و محتوای به‌طور خاص خطرناک OpenAI و ChatGPT.»
ایالت‌ها در دادخواست‌های خود گفته‌اند ChatGPT محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از سهم بازار آمریکا را در اختیار دارد.
چشم‌انداز حقوقی هوش مصنوعی در حال تغییر است
هنوز مشخص نیست که همه اتهام‌های مطرح‌شده در دادخواست‌های مفصل ایالت‌ها، پیش از ماه اوت، یعنی زمانی که OpenAI نسخه‌ای از ChatGPT ویژه نوجوانان را با تدابیر حفاظتی قوی‌تر برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی عرضه کرد، به چه نتیجه‌ای برسند.
با این حال، ایالت‌ها می‌گویند نسخه کنونی نیز به‌وضوح به اندازه کافی ایمن نیست.
گروه ناظر کامن سنس مدیا هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در ChatGPT ویژه نوجوانان آن‌طور که باید عمل نمی‌کنند و از این شرکت خواست دسترسی به چت‌بات را برای بزرگسالان محدود کند تا زمانی که بتواند محصولی ایمن برای نوجوانان ارائه دهد.
شکایت‌های هماهنگ چند ایالت علیه صنعت فناوری پیشینه‌ای طولانی دارند. در ماه اوت، شرکت متا پذیرفت تدابیر حفاظتی قوی‌تری برای کودکان در پلتفرم‌های فیسبوک و اینستاگرام خود اجرا کند. این توافق در قالب سازشی حقوقی به ارزش ۱٫۴ میلیارد دلار حاصل شد که به یک محاکمه مربوط به شبکه‌های اجتماعی پایان داد؛ محاکمه‌ای که در آن نزدیک به همه ایالت‌ها ادعاهایی مطرح کرده بودند. گزارش آسوشیتدپرس درباره توافق متا را بخوانید.
با وجود اینکه تدابیر ایمنی مورد توافق متا در سراسر صنعت اجرا نشد، این شرکت به‌سرعت از رقبایش خواست اقدامات مشابهی را در پیش بگیرند.
OpenAI نیز اکنون رویکرد مشابهی را دنبال می‌کند.
درو هوساتر، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها همکاری کند تا «سیاست‌های عملی و پیشرو در حوزه هوش مصنوعی تدوین شود که در سراسر صنعت هوش مصنوعی کاربرد داشته باشد، نه فقط برای یک شرکت خاص».
OpenAI همچنین اعلام کرده است که با کارشناسان مستقل برای بررسی سیاست‌های خود و رفتار ChatGPT همکاری می‌کند.
این شرکت می‌گوید ChatGPT برای کاربران ۱۳ سال به بالا طراحی شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. به گفته شرکت، نسخه ویژه نوجوانان به‌گونه‌ای طراحی شده که مواجهه آن‌ها با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا گرافیکی را کاهش دهد.
OpenAI اعلام کرده است که نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، از آن برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا انجام کارهای مفید بهره می‌برند. به گفته شرکت، نوجوانان به‌طور متوسط کمتر از ۴۰ دقیقه در روز از ChatGPT استفاده می‌کنند.
لورا زیمرمن، مدیر پژوهش حوزه هوش مصنوعی جوانان در کامن سنس مدیا، درباره ارزش این آمار ابراز تردید کرد.
زیمرمن گفت: «برای انجام تکالیف مدرسه، ChatGPT می‌تواند در عرض چند ثانیه کاری را انجام دهد که یک دانش‌آموز باید برای آن وقت بگذارد. بنابراین حتی ۴۰ دقیقه هم می‌تواند تأثیر زیادی بر رشد یک نوجوان داشته باشد.» او همچنین این پرسش را مطرح کرد که آیا OpenAI می‌تواند تشخیص دهد کدام کاربران نوجوان یا کودک هستند؛ به‌ویژه با توجه به اینکه آزمایش‌های سازمان او نشان داده بود ChatGPT نتوانسته است تشخیص دهد کاربر کودک است یا خیر.
این گزارش اصلاح شده است تا املای نام خانوادگی مدیر پژوهش حوزه هوش مصنوعی جوانان در کامن سنس مدیا به شکل صحیح «زیمرمن» درج شود، نه «زیمرمن» با املای پیشین گزارش.
جولیو مارسی لوی را در ایکس دنبال کنید.