OpenAI با شکایت چند ایالت آمریکا درباره آسیب ChatGPT به کودکان و فریب بزرگسالان روبه‌رو شد
چند ایالت آمریکا از OpenAI شکایت کرده‌اند و این شرکت، سازنده ChatGPT، را متهم می‌کنند که سود را بر ایمنی عمومی مقدم دانسته، کودکان را در معرض گفت‌وگوهای خطرناک قرار داده و درباره خطرات هوش مصنوعی برای بزرگسالان اطلاعات گمراه‌کننده ارائه کرده است.
در این شکایت‌ها ادعا شده است که ChatGPT کاربران را به رفتارهای خودکشی تشویق کرده، توصیه‌های پزشکی بالقوه خطرناک ارائه داده و در میان کاربران آسیب‌پذیر، تفکرات پارانوئید را تقویت کرده است.
دادستان‌ها همچنین OpenAI را متهم کرده‌اند که نتوانسته سامانه‌های پیشرفته هوش مصنوعی را که قادر به رفتار فریبکارانه و حملات سایبری بدون مجوز هستند، به‌طور کافی کنترل کند. در اسناد این پرونده، نام ایالت‌های آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی به‌عنوان ایالت‌های شاکی آمده است. برنا برد، دادستان کل آیووا، نیز علناً از این شرکت انتقاد کرده و به این ترتیب شمار ایالت‌های دخیل در اقدام حقوقی گزارش‌شده به دست‌کم هشت ایالت رسیده است.
برد در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
بر اساس این شکایت‌ها، ChatGPT می‌تواند این تصور را ایجاد کند که کاربر در حال شکل‌دادن به رابطه‌ای عاطفی و حمایتگرانه با سامانه است، در حالی که برخی پاسخ‌های آن ممکن است افکار آسیب‌زا را تقویت کنند یا کاربران را از درخواست کمک از اطرافیان خود بازدارند.
در شکایت آریزونا به‌طور مشخص ادعا شده است که این چت‌بات نوجوانان را به افشای اطلاعات شخصی ترغیب می‌کند و گاهی آنها را از در میان گذاشتن گفت‌وگوهای حساس با والدین، دوستان یا مقام‌های مسئول بازمی‌دارد.
ایالت‌ها استدلال می‌کنند که OpenAI از این خطرات آگاه بوده یا دست‌کم باید از آنها آگاه می‌بود، اما با وجود این، به گسترش محصولات خود ادامه داده و در عین حال آزمایش‌های ایمنی و تدابیر حفاظتی‌اش را کافی جلوه داده است.
شکایت آیداهو پا را فراتر گذاشته و OpenAI را متهم می‌کند که مردم را در معرض پیامدهایی از تراژدی‌های شخصی گرفته تا تهدیدهای امنیت سایبری قرار داده است.
در متن این شکایت آمده است: «این درآمدها هزینه سنگینی برای مردم داشته‌اند»؛ در این متن به مرگ‌ومیر، حملات سایبری و خطرات گسترده‌تر مرتبط با سامانه‌های پیشرفته هوش مصنوعی اشاره شده است. شکایت‌ها همچنین از عوامل هوش مصنوعی موسوم به سرکش توصیف می‌کنند که بنا بر ادعاها قادرند به شرکت‌های دیگر نفوذ کنند، اپراتورهای انسانی را فریب دهند و دستورالعمل‌های خود را تغییر دهند.
OpenAI این ادعا را که چنین رفتاری نشان‌دهنده تهدیدی خارج از کنترل است، رد کرده و گفته است مدل‌های ناسازگار با اهداف تعیین‌شده را بررسی می‌کند و تاکنون چیزی مشابه حادثه‌ای که پیش‌تر در ماه ژوئیه درباره یک عامل هوش مصنوعی گزارش شده بود، شناسایی نکرده است.
با این حال، اثربخشی این تدابیر حفاظتی از هم‌اکنون با چالش روبه‌رو شده است. سازمان غیرانتفاعی Common Sense Media که تأثیر فناوری بر کودکان را ارزیابی می‌کند، هفته گذشته گزارش داد که برخی از محافظت‌های ChatGPT برای نوجوانان در جریان آزمایش‌های این سازمان با شکست مواجه شده‌اند. این سازمان توصیه کرده است تا زمانی که بتوان تدابیر حفاظتی قوی‌تری را نشان داد، دسترسی به این سرویس به بزرگسالان محدود شود.
این شرکت همچنین می‌گوید کارشناسان مستقل، سیاست‌ها و رفتار چت‌بات آن را بررسی می‌کنند.
این شکایت‌ها پس از توافقی به ارزش ۱۸ میلیارد دلار با Meta مطرح شده‌اند که به ادعاهای مربوط به اعتیاد نوجوانان به شبکه‌های اجتماعی مربوط بود. این توافق که در ماه اوت حاصل شد، شامل تدابیر بیشتری برای ایمنی کودکان در Facebook و Instagram نیز بود.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، پرونده‌های مربوط به OpenAI را «مهم‌ترین اقدام هماهنگ ایالت‌ها که تاکنون علیه یک شرکت هوش مصنوعی انجام شده است» توصیف کرد.