شکایت ایالت آیداهو از OpenAI به اتهام فریب افکار عمومی درباره ایمنی ChatGPT
نویسنده: رویس مک‌کندلس | ۱۴ اکتبر ۲۰۲۶
بویزی، آیداهو — رائول لابرادور، دادستان کل ایالت آیداهو، روز چهارشنبه از طرح شکایتی علیه شرکت OpenAI خبر داد. او مدعی است شرکت سازنده ChatGPT به کودکان این ایالت آسیب رسانده و برخی از مقررات قانون حمایت از مصرف‌کنندگان آیداهو را نقض کرده است.
در این شکایت ادعا شده است که OpenAI با ارائه تصویری گمراه‌کننده از ChatGPT، افکار عمومی را به این باور رسانده که این چت‌بات هوش مصنوعی، ایمنی مصرف‌کنندگان را در اولویت قرار می‌دهد. شاکی همچنین مدعی است این پلتفرم «به مهارت‌های تفکر انتقادی آسیب می‌زند» و «رفتارها و روابط ناسالم را ترویج می‌کند».
لابرادور در بیانیه‌ای که دفترش منتشر کرد، گفت: «شاهد بوده‌ایم که غول‌های فناوری به رشد و سودهای چشمگیری دست یافته‌اند، در حالی که مصرف‌کنندگان، به‌ویژه کودکان، را در معرض خطرات جدی قرار داده‌اند. ایمنی کودکان آیداهو نباید در برابر سودجویی مهارنشده یا پیشرفت‌های فناوری به موضوعی فرعی تبدیل شود. ما OpenAI را بابت اولویت‌گذاری‌های بی‌ملاحظه‌اش پاسخ‌گو خواهیم کرد.»
مبنای حقوقی شکایت آیداهو، ادعای نقض قانون حمایت از مصرف‌کنندگان این ایالت از سوی OpenAI است. بر اساس این قانون، هرگونه «اقدام یا رویه ناعادلانه یا فریبکارانه در فعالیت‌های تجاری و بازرگانی» غیرقانونی محسوب می‌شود.
در متن شکایت آمده است که OpenAI از چند جهت مقررات این قانون را نقض کرده است؛ از جمله اینکه درباره محتوای حساس و خطراتی که «مصرف‌کنندگان آیداهو، از جمله افراد زیر سن قانونی، ممکن است با آن روبه‌رو شوند» اطلاع‌رسانی کافی نکرده است. همچنین، به ادعای شاکی، این شرکت با وجود آگاهی از استفاده کودکان زیر ۱۳ سال از پلتفرم خود، به‌طور پیش‌فرض داده‌های همه کاربران را جمع‌آوری می‌کند. در بخش دیگری از شکایت آمده است که OpenAI برخلاف واقع، ChatGPT را ابزاری «قابل اعتماد و مناسب برای انجام وظایف حساس و سرنوشت‌ساز»، از جمله مدیریت امور مالی و مراقبت‌های بهداشتی، معرفی کرده است؛ در حالی که این چت‌بات «به‌طور مکرر» اطلاعات «نادرست» ارائه می‌دهد.
در این شکایت همچنین به چندین مورد اشاره شده که در آن‌ها، بنا بر ادعای شاکی، ChatGPT برخی کاربران را به خودکشی تشویق کرده و در انجام آن به آن‌ها کمک کرده است. در متن شکایت آمده که به مصرف‌کنندگان آیداهو درباره خطرات این چت‌بات هشدار داده نشده است؛ از جمله مواردی که در آن‌ها «ChatGPT به خودکشی، خودآزاری یا خشونت کمک کرده است».
برای رسیدگی به این اتهامات و چندین ادعای دیگر، از دادگاه خواسته شده است مجموعه‌ای از درخواست‌ها را بپذیرد. این درخواست‌ها شامل پرداخت غرامت، الزام به اطلاع‌رسانی مستمر درباره مواردی است که عامل‌های هوش مصنوعی بدون مجوز به سامانه‌ها دسترسی پیدا می‌کنند، و همچنین اجرای تدابیر ایمنی جدیدی که برای حفاظت از ساکنان آیداهو ضروری تشخیص داده می‌شوند؛ از جمله راه‌اندازی سامانه‌های تأیید سن کاربران.
شکایت ایالت آیداهو در دادگاه ناحیه قضایی چهارم شهرستان ایدا ثبت شد. این اقدام هم‌زمان با طرح شکایت‌های مستقل هفت ایالت دیگر علیه OpenAI صورت گرفت که هر یک اتهامات مشابهی درباره آسیب‌رساندن ChatGPT به ساکنان خود مطرح کرده‌اند. به گزارش خبرگزاری رویترز، هفت ایالت دیگری که از اقدام حقوقی مشابه خبر داده‌اند عبارت‌اند از آریزونا، آرکانزاس، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
این شکایت در شرایطی مطرح شده که ناحیه آموزشی بویزی ماه گذشته اعلام کرده بود برای گسترش دسترسی معلمان و کارکنان آموزشی به ChatGPT، همکاری مستقیمی را با OpenAI آغاز کرده است؛ موضوعی که پایگاه خبری آیداهو اجوکیشن نیوز گزارش کرده بود.
بر اساس برنامه اعلام‌شده، قرار است ChatGPT ابتدا در بخش فناوری ناحیه آموزشی بویزی به کار گرفته شود و سپس استفاده از آن به بخش اداری و گروه منتخبی از معلمان گسترش یابد. همان‌طور که آیداهو پرس پیش‌تر گزارش داده بود، انتظار می‌رود این چت‌بات از اوایل سال ۲۰۲۷ در اختیار همه معلمان این ناحیه آموزشی قرار گیرد.
سخنگوی OpenAI در پاسخ ایمیلی به آیداهو پرس، به تدابیر حفاظتی موجود این شرکت اشاره کرد که بر اساس سن کاربران، آن‌ها را به مدل‌های متناسب متصل می‌کند. این تدابیر در کنار ابزارهای کنترل والدین و شرایط استفاده از خدمات قرار دارند که بر اساس آن‌ها، کاربران زیر ۱۳ سال باید پیش از ایجاد حساب کاربری از والدین یا سرپرست قانونی خود اجازه بگیرند.
به گفته OpenAI، این شرکت برای شناسایی کاربران زیر ۱۸ سال در ChatGPT از تدابیر حفاظتی مختلفی استفاده می‌کند که از جمله آن‌ها می‌توان به «پیش‌بینی سن»، «نشانه‌های رفتاری» و «تأیید سن» اشاره کرد.
سخنگوی OpenAI در بیانیه‌ای ایمیلی گفت: «ما تدابیر حفاظتی ویژه گروه‌های سنی مختلف را در محصول خود گنجانده‌ایم که در سطح صنعت پیشرو هستند و بسیاری از محصولات دیگر هوش مصنوعی فاقد آن‌ها هستند. هرچند هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دیدگاه‌های آن‌ها در کار خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم. این اقدامات در ادامه امکاناتی است که هم‌اکنون وجود دارند؛ از جمله کنترل‌های والدین، یادآوری برای استراحت و سازوکارهای حفاظتی مدل‌ها متناسب با سن کاربران. ما متعهدیم با ایالت‌ها برای پیشبرد سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»
این سخنگو همچنین گفت شرکت به اطلاع‌رسانی درباره اقداماتی که در واکنش به «موارد ناهم‌راستایی» انجام داده است ادامه خواهد داد. منظور از ناهم‌راستایی، مواردی است که سامانه‌های هوش مصنوعی از اهداف ایمنی یا دستورهای انسانی منحرف می‌شوند. از جمله اقداماتی که OpenAI پیش‌تر در این زمینه انجام داده، «بررسی گسترده‌تر فعالیت مدل» و انتشار یافته‌های حاصل از آن بوده است.
رویس مک‌کندلس خبرنگار حوزه مجلس ایالتی و سیاست آیداهو است. برای تماس با او می‌توان به نشانی [email protected] ایمیل فرستاد.