هشت ایالت آمریکا به اتهام آسیب‌رسانی به کودکان از OpenAI شکایت کردند
نویسنده: جسیکا شرر
آخرین به‌روزرسانی: ۱۶ اکتبر ۲۰۲۶
هشت ایالت به دلیل نگرانی درباره ایمنی کودکان در ChatGPT از OpenAI شکایت کردند
روز چهارشنبه، هشت ایالت آمریکا شکایت‌هایی هماهنگ علیه شرکت OpenAI، مالک ChatGPT، مطرح کردند. آن‌ها این شرکت هوش مصنوعی را متهم کردند که درباره ایمنی ChatGPT به والدین اطلاعات گمراه‌کننده داده و نتوانسته است به‌طور مناسب از کاربران کم‌سن‌وسال خود محافظت کند.
این شکایت‌ها به‌طور جداگانه در ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا ثبت شده‌اند. در این شکایت‌ها ادعا شده است که این چت‌بات پرطرفدار، کاربران کم‌سن‌وسال را در معرض خطرهای جدی روانی و جسمی قرار داده است.
محور اصلی این پرونده‌ها ادعایی است مبنی بر اینکه OpenAI هم‌زمان با افزایش سریع محبوبیت ChatGPT، نتوانسته خطرهای جدی مرتبط با ایمنی کودکان را برطرف کند. مقام‌های ایالتی می‌گویند گسترش سریع این ابزار پس از عرضه آن در نوامبر ۲۰۲۳، بسیار سریع‌تر از توسعه تدابیر ایمنی متناسب با آن پیش رفته است. در نتیجه، با ادغام هرچه بیشتر این پلتفرم در زندگی روزمره، کودکان در معرض آسیب‌پذیری بیشتری قرار گرفته‌اند.
دادستان‌های کل ایالت‌ها می‌گویند برای پاسخ‌گو کردن شرکت‌های قدرتمند فناوری، اعمال فشار حقوقی هماهنگ ضروری است.
روز چهارشنبه، در یک نشست خبری، برنا بِرد، دادستان کل آیووا، در کنار کریس کوباخ، دادستان کل کانزاس، مایک هیلگرز، دادستان کل نبراسکا، و جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، حضور یافت.
برد بر قدرت اقدام هماهنگ ایالت‌ها تأکید کرد و گفت که آن‌ها قصد دارند «در برابر شرکت‌هایی که از آسیب‌زدن به فرزندان ما و نقض قوانینمان پول درمی‌آورند، یک جبهه متحد تشکیل دهند».
در شکایت‌ها به تعاملات خطرناک ChatGPT اشاره شده است
مقام‌های ایالتی مدعی‌اند که اطمینان‌بخشی‌های OpenAI درباره ایمنی این ابزار، این تصور گمراه‌کننده را برای والدین ایجاد کرده است که ChatGPT برای کودکان و نوجوانان مناسب است.
با این حال، در شکایت‌ها مواردی شرح داده شده که در آن‌ها چت‌بات ظاهراً راهنمایی‌های خطرناکی در اختیار کاربران کم‌سن‌وسال قرار داده است؛ موضوعی که پرسش‌هایی درباره توانایی شرکت در جلوگیری از چنین تعاملات آسیب‌زایی مطرح می‌کند.
این اتهامات چند نوع راهنمایی تولیدشده به کمک هوش مصنوعی را در بر می‌گیرند، از جمله:
- ادعا شده است که ChatGPT به کاربران آسیب‌پذیر پاسخ‌هایی داده که آن‌ها را به سمت خودکشی سوق می‌داده یا در این زمینه راهنمایی می‌کرده است، به‌جای آنکه آن‌ها را به خدمات مناسب برای دریافت کمک فوری هدایت کند.
- ادعا شده است که ChatGPT اطلاعات یا کمک‌هایی ارائه کرده که می‌توانسته به کاربران امکان آسیب‌رساندن به دیگران را بدهد.
- ادعا شده است که ChatGPT توصیه‌های ناایمنی درباره سلامت ارائه کرده، بی‌آنکه هشدارها یا تدابیر حفاظتی کافی در اختیار کاربران بگذارد.
این ادعاها این پرسش را مطرح می‌کنند که آیا چت‌بات‌های هوش مصنوعی می‌توانند تشخیص دهند کاربران دچار پریشانی روانی شده‌اند یا رفتارهای خطرناک از خود نشان می‌دهند.
نگرانی‌های مشابهی پیش‌تر نیز در پرونده‌های حقوقی علیه OpenAI مطرح شده بود. در شکایتی جداگانه، خانواده‌ای در کالیفرنیا ادعا کرد که ChatGPT به «مربی مخفی مصرف مواد مخدر» پسرشان تبدیل شده بود و پیش از مرگ او، ظاهراً مصرف خطرناک مواد را تقویت می‌کرد.
این پرونده‌ها در کنار یکدیگر نشان می‌دهند که تدابیر ایمنی ChatGPT با بررسی و انتقاد فزاینده‌ای روبه‌رو شده‌اند؛ با این حال، این ادعاها هنوز به‌عنوان یافته‌های اثبات‌شده قضایی تثبیت نشده‌اند.
OpenAI از تدابیر ایمنی خود دفاع می‌کند
OpenAI این اتهامات را رد کرده و می‌گوید تدابیر حفاظتی کافی برای ایمن نگه‌داشتن کاربران کم‌سن‌وسال اجرا کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت «حفاظت‌های متناسب با سن را در محصول خود گنجانده که از پیشرفته‌ترین تدابیر در صنعت هستند و بسیاری از محصولات هوش مصنوعی دیگر فاقد آن‌ها هستند».
ماه گذشته، این شرکت نسخه‌ای محدودتر از ChatGPT را برای نوجوانان ۱۳ تا ۱۷ ساله معرفی کرد که شامل محدودیت‌های ایمنی قوی‌تر، ابزارهای نظارت والدین و پاسخ‌های متناسب با سن است.
پوساتری در پیامی نوشت: «هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما به همکاری با متخصصان برای هدایت اقداماتمان و ایجاد تدابیر حفاظتی بیشتر ادامه خواهیم داد؛ از جمله کنترل‌های والدین، یادآوری برای وقفه‌گرفتن و سازوکارهای حفاظتی مدل متناسب با سن که هم‌اکنون وجود دارند.»
OpenAI همچنین تأکید دارد که به‌طور فعال در حال رسیدگی به خطرهای احتمالی مرتبط با سامانه‌های هوش مصنوعی خود است.
پوساتری گفت این شرکت به اطلاع‌رسانی درباره «اقدامات گسترده‌ای که در واکنش به موارد ناهمسویی انجام داده‌ایم» ادامه خواهد داد.
با وجود این اطمینان‌بخشی‌ها، شکایت‌ها فشار فزاینده بر OpenAI را برای اجرای تدابیر ایمنی مؤثر برجسته می‌کنند؛ به‌ویژه برای کاربران کم‌سن‌وسالی که ممکن است بیشتر در معرض شکل‌دادن پیوندهای عاطفی با این چت‌بات‌های هوش مصنوعی باشند.
شکایت‌ها نگرانی‌ها درباره وابستگی به هوش مصنوعی و سلامت روان را افزایش می‌دهند
این اقدام حقوقی هماهنگ، نگرانی‌های فزاینده درباره آثار روانی استفاده گسترده از هوش مصنوعی را برجسته می‌کند؛ از جمله وابستگی ناسالم به چت‌بات‌ها، اعتیاد به هوش مصنوعی و شکل‌گیری دلبستگی عاطفی به این ابزارها.
بر اساس گزارشی از مرکز پژوهشی پیو در سال ۲۰۲۵، حدود ۵۹ درصد نوجوانان آمریکایی از ChatGPT استفاده می‌کنند و این ابزار در میان چت‌بات‌های هوش مصنوعی، محبوب‌ترین گزینه نزد نوجوانان است.
با توجه به اینکه شمار زیادی از نوجوانان به‌طور منظم با هوش مصنوعی تعامل دارند، کارشناسان و سیاست‌گذاران در حال بررسی این موضوع‌اند که این سامانه‌ها در گذر زمان چه تأثیری بر سلامت روان، رشد عاطفی و روابط آن‌ها می‌گذارند.
با پررنگ‌تر شدن نقش هوش مصنوعی در زندگی روزمره، این شکایت‌ها ممکن است در شکل‌گیری رویکرد شرکت‌های فناوری به خطرهای نوظهور سلامت روان و حفاظت از کاربران آسیب‌پذیر نقش داشته باشند.
اگر فرزند شما دچار پریشانی روانی شده، از اجتماع کناره‌گیری می‌کند یا به‌طور وسواس‌گونه از چت‌بات‌ها استفاده می‌کند، ممکن است از دریافت کمک تخصصی سلامت روان بهره‌مند شود. می‌توانید گزینه‌های درمان آنلاین را بررسی کنید و از خانه با یک درمانگر دارای مجوز ارتباط بگیرید.