هشت ایالت آمریکا به دلیل خطرات چت‌جی‌پی‌تی برای کودکان از OpenAI شکایت کردند
نویسنده: کاترینا لویتسکا، دبیر اخبار رسانه «Mezha» که از سال ۲۰۱۵ در حوزه رسانه فعالیت دارد و درباره نرم‌افزار، صنعت فناوری اطلاعات و سینما می‌نویسد.
۱۵ اکتبر، ساعت ۱۳:۳۵
شرکت OpenAI با موج تازه‌ای از شکایت‌های حقوقی روبه‌رو شده است. هشت ایالت آمریکا این شرکت را متهم کرده‌اند که اقدامات کافی برای محافظت از کودکان انجام نداده، اطلاعات شخصی آن‌ها را جمع‌آوری کرده و درباره میزان ایمنی چت‌جی‌پی‌تی به کاربران اطلاعات گمراه‌کننده داده است. این خبر را وب‌سایت The Verge گزارش داده است.
دادستان‌های کل ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا این شکایت‌ها را مطرح کرده‌اند. آن‌ها معتقدند OpenAI هنگام توسعه چت‌جی‌پی‌تی، کسب سود را بر حفظ امنیت کاربران ترجیح داده است.
به ادعای شاکیان، چت‌جی‌پی‌تی ممکن است توهمات و افکار پارانوئید کاربران را تشدید کند، آن‌ها را به خودآزاری و رفتارهای خطرناک ترغیب کند و توصیه‌های پزشکی پرخطری ارائه دهد. در متن شکایت‌ها همچنین به پرونده‌هایی اشاره شده که در آن‌ها افراد، این چت‌بات را در مرگ عزیزان خود دخیل دانسته‌اند.
در شکایت ایالت آریزونا آمده است: «OpenAI از هدف اولیه خود، یعنی فعالیت به‌عنوان سازمانی غیرانتفاعی که منافع عمومی و ایمنی را در اولویت قرار می‌دهد، فاصله گرفته است. این شرکت اکنون به نمونه‌ای از پیامدهای توسعه ابزاری به قدرتمندی هوش مصنوعی تبدیل شده که به‌جای توجه به ملاحظات ایمنی، با انگیزه کسب سود به هر قیمتی پیش می‌رود؛ رویکردی که باعث شده تدابیر حفاظتی حیاتی به حاشیه رانده شوند.»
ایالت‌های شاکی همچنین OpenAI را به جمع‌آوری اطلاعات افراد زیر سن قانونی و کوتاهی در اعمال محدودیت‌های کافی برای استفاده کودکان از چت‌بات‌ها متهم کرده‌اند. آن‌ها برای نشان دادن آنچه «بی‌مبالاتی» این شرکت می‌خوانند، به حوادث اخیر نیز استناد کرده‌اند که در جریان آن‌ها، مدل‌های هوش مصنوعی هنگام آزمایش، اطلاعات را به شبکه‌های خارجی نشت داده‌اند.
OpenAI در واکنش به این اتهامات اعلام کرده است که تدابیر حفاظتی پیشرفته‌ای را متناسب با سن کاربران در چت‌جی‌پی‌تی به کار گرفته است. بااین‌حال، این شرکت پذیرفته که سازوکارهای ایمنی آن هنوز بی‌نقص نیستند.
OpenAI در بیانیه خود اعلام کرد: «ما به همکاری با متخصصان ادامه خواهیم داد تا رویکردهای خود را بهبود دهیم و تدابیر حفاظتی بیشتری اجرا کنیم. این اقدامات شامل ابزارهای کنترل والدین، یادآوری برای استراحت در زمان استفاده از چت‌بات و تنظیمات مدل متناسب با سن کاربران است. همچنین آماده‌ایم با ایالت‌ها همکاری کنیم تا مقرراتی عملی برای تنظیم‌گری هوش مصنوعی تدوین شود؛ مقرراتی که بر کل این صنعت اعمال شود، نه فقط بر یک شرکت.»
ایالت‌های شاکی خواستار اعمال جریمه‌های مدنی علیه OpenAI و توقف ارائه اطلاعات گمراه‌کننده به عموم مردم درباره ایمنی چت‌جی‌پی‌تی شده‌اند. برخی از این ایالت‌ها همچنین درخواست کرده‌اند اطلاعات شخصی که به‌صورت غیرقانونی جمع‌آوری شده است، حذف شود.
OpenAI در اواسط ماه اوت، حالت ویژه نوجوانان چت‌جی‌پی‌تی (ChatGPT for Teens) را راه‌اندازی کرد. این حالت قرار بود امکاناتی از جمله محافظت بیشتر از نوجوانان و قابلیت «ساعات سکوت» را در اختیار کاربران قرار دهد. بااین‌حال، بررسی بعدی سازمان غیرانتفاعی Common Sense Media نشان داد که همه تدابیر حفاظتی این حالت مطابق انتظار عمل نمی‌کنند. بر اساس نتایج این بررسی، حالت ویژه نوجوانان تنها در برخی مواقع فعال می‌شد و گاهی نیز هنگام گفت‌وگوهای آسیب‌زا، هشدارهای مخصوص والدین ارسال نمی‌شد.