به‌دلیل آسیب به کودکان، ۸ ایالت آمریکا از ChatGPT شکایت کردند
OpenAI در آمریکا با یک چالش حقوقی تازه روبه‌رو شده است؛ هشت ایالت این کشور از این شرکت هوش مصنوعی به‌دلیل آسیب‌های ادعایی ناشی از چت‌بات محبوب آن، ChatGPT، شکایت کرده‌اند. در این دعاوی، شرکت به نقض قوانین حمایت از مصرف‌کنندگان متهم شده و شاکیان می‌گویند این چت‌بات ممکن است کاربران را به رفتارهای خطرناک تشویق کند، باورهای پارانویید را تقویت کند و کاربران آسیب‌پذیر، از جمله نوجوانان، را در معرض آسیب قرار دهد.
این اقدام حقوقی نشان‌دهنده تشدید قابل‌توجه نظارت بر شرکت‌های هوش مصنوعی و مسئولیت آنها در قبال ایمنی کاربران است.
هشت ایالت ایمنی ChatGPT را به چالش کشیدند
دادستان‌های کل آیووا، آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی در ۱۴ اکتبر ۲۰۲۶، هر یک به‌طور جداگانه در دادگاه‌های ایالتی علیه OpenAI طرح دعوا کردند.
در این شکایت‌ها ادعا شده است که ChatGPT ممکن است توصیه‌های پزشکی خطرناک ارائه دهد، باورهای هذیانی را تقویت کند و به کاربران در برنامه‌ریزی برای خشونت یا خودآزاری کمک کند. ایالت‌ها همچنین استدلال می‌کنند که سبک گفت‌وگوی موافق و تعاملی چت‌بات می‌تواند کاربران را به اعتماد بیش از حد به پاسخ‌های آن سوق دهد.
این موارد، ادعاهای مطرح‌شده در اسناد قضایی هستند و تاکنون به‌عنوان یافته‌های یک دادگاه اثبات نشده‌اند.
آریزونا درباره حریم خصوصی نوجوانان ابراز نگرانی کرد
در شکایت آریزونا، نحوه تعامل ChatGPT با نوجوانان و اطلاعات شخصی آنها مورد توجه قرار گرفته است. در این دادخواست ادعا شده که چت‌بات کاربران کم‌سن‌وسال را به افشای اطلاعات حساس ترغیب می‌کند و در برخی شرایط، آنها را از در میان گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
این پرونده‌ها نگرانی‌های فزاینده درباره رابطه میان هوش مصنوعی مکالمه‌ای، حریم خصوصی کودکان و آسیب‌پذیری عاطفی آنها را برجسته می‌کنند.
ChatGPT برای کاربران ۱۳ ساله و بالاتر در نظر گرفته شده است. OpenAI می‌گوید کاربران زیر ۱۸ سال به اجازه والدین یا سرپرست نیاز دارند و تدابیر حفاظتی این سامانه برای کاهش مواجهه با محتوای زیان‌بار، از جمله مطالب مرتبط با خودآزاری، خشونت و اختلالات خوردن، طراحی شده‌اند.
دفاع OpenAI از تدابیر ایمنی خود
OpenAI اعلام کرده است که برای کاربران کم‌سن‌وسال تدابیر حفاظتی ایجاد کرده و همچنان در حال تلاش برای بهبود عملکرد مدل‌های خود است.
این شرکت همچنین اعلام کرده که آماده همکاری با دولت‌های ایالتی برای تدوین سیاست‌های عملی در حوزه هوش مصنوعی است؛ سیاست‌هایی که به‌جای هدف قرار دادن یک شرکت خاص، در سراسر صنعت اعمال شوند.
OpenAI گفته است تقریباً ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده می‌کنند، از آن برای یادگیری، جمع‌آوری اطلاعات، توسعه مهارت‌ها یا افزایش بهره‌وری استفاده می‌کنند. این شرکت همچنین اعلام کرده که نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از این سرویس استفاده می‌کنند.
با این حال، منتقدان معتقدند تدابیر حفاظتی موجود ممکن است برای مقابله با همه خطرها کافی نباشند؛ به‌ویژه زمانی که کاربران جوان یا آسیب‌پذیر اعتماد زیادی به یک چت‌بات هوش مصنوعی پیدا می‌کنند.
آیا این شکایت‌ها می‌توانند مقررات هوش مصنوعی را تغییر دهند؟
این دعاوی خواستار اقدامات حقوقی و مالی، از جمله مجازات‌های مدنی و پرداخت خسارت هستند. ایالت‌ها همچنین خواهان تغییراتی در نحوه فعالیت ChatGPT شده‌اند و محدودیت‌هایی را برای توسعه مدل‌های هوش مصنوعی خودبهبوددهنده پیشنهاد کرده‌اند، مگر آنکه بتوان همسویی آنها با ارزش‌های انسانی را تضمین کرد.
این اقدام حقوقی در پی موج گسترده‌تری از پرونده‌هایی مطرح شده است که تأثیر پلتفرم‌های فناوری بر کودکان و مصرف‌کنندگان را به چالش می‌کشند. این پرونده‌ها همچنین در شرایطی مطرح شده‌اند که OpenAI با شکایت‌های دیگری از سوی افرادی مواجه است که مدعی‌اند چت‌بات این شرکت در بروز رفتارهای زیان‌بار نقش داشته است.
نتیجه این پرونده‌ها می‌تواند بر نحوه طراحی سامانه‌های ایمنی توسط شرکت‌های هوش مصنوعی، شیوه مدیریت گفت‌وگوهای مربوط به افراد کم‌سن‌وسال و نحوه بیان محدودیت‌های محصولاتشان اثر بگذارد.