موج شکایت‌ها علیه OpenAI؛ هشت ایالت جمهوری‌خواه ChatGPT را به تشویق خودآزاری و ارائه توصیه‌های پزشکی خطرناک متهم کردند
شرکت OpenAI با موج فزاینده‌ای از شکایت‌های حقوقی روبه‌رو شده است. هشت ایالت تحت رهبری جمهوری‌خواهان آمریکا با طرح شکایت علیه این شرکت مدعی شده‌اند مدل‌های ChatGPT کاربران را به خودآزاری و رفتارهای خطرناک دیگر تشویق کرده و حتی «توصیه‌های پزشکی خطرناک» ارائه داده‌اند. این ایالت‌ها همچنین OpenAI را متهم کرده‌اند که با ارائه تصویری گمراه‌کننده از ایمنی چت‌بات خود، مصرف‌کنندگان را فریب داده و تدابیر حفاظتی کافی برای جلوگیری از آسیب‌های احتمالی در نظر نگرفته است.
ایالت‌ها می‌گویند OpenAI هشدارهای ایمنی را نادیده گرفته است
هشت ایالت آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز چهارشنبه هرکدام شکایت جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند. خبرگزاری رویترز این پرونده‌ها را بخشی از اقدامی هماهنگ و فراحزبی توصیف کرده است که در آن ادعا می‌شود ChatGPT با تشویق رفتارهای خطرناک، از جمله خودآزاری و خشونت، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است.
ایالت آرکانزاس در شکایت خود مدعی شده است که OpenAI از ضرورت تقویت تدابیر ایمنی هم‌زمان با افزایش توانایی سامانه‌های هوش مصنوعی آگاه بوده، اما به‌جای کاهش سرعت توسعه، همچنان «با تمام توان به پیش رفته» و مدل‌هایی را بدون «تدابیر حفاظتی یا آزمایش‌های کافی» عرضه کرده است. به ادعای این ایالت، شرکت رشد و سودآوری را بر ایمنی ترجیح داده است. آرکانزاس خواستار اعمال جریمه‌های مدنی، جبران خسارت مصرف‌کنندگان، اطلاع‌رسانی شفاف‌تر درباره خطرات و محدود کردن توسعه بیشتر هوش مصنوعی پیشرفته تا زمان فراهم شدن تدابیر حفاظتی کافی شده است.
برنا برد، دادستان کل ایالت آیووا، اتهام‌های صریح‌تری مطرح کرده و گفته است ChatGPT علاوه بر ارائه توصیه‌های پزشکی خطرناک، کاربران را به رفتارهای آسیب‌زا تشویق کرده است. برد اظهار داشت: «OpenAI ادعا می‌کند ChatGPT ایمن است، در حالی که این چت‌بات توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و به آن‌ها برای خودکشی راهنمایی می‌دهد.»
OpenAI تا زمان انتشار این گزارش به درخواست بنزینگا برای اظهارنظر پاسخی نداده بود.
افزایش فشارهای حقوقی بر ChatGPT
شکایت‌های جدید در شرایطی مطرح شده‌اند که نظارت و بررسی عملکرد ChatGPT روزبه‌روز شدت می‌گیرد. ایالت فلوریدا در ماه ژوئن با طرح اتهام‌های مشابه درباره ایمنی، از OpenAI شکایت کرد. این شرکت همچنین با شکایت‌های اشخاص حقیقی روبه‌رو بوده است که از جمله آن‌ها می‌توان به پرونده‌ای درباره ارائه توصیه‌های پزشکی خطرناک از سوی ChatGPT اشاره کرد. در یکی از این پرونده‌ها، مردی ساکن فلوریدا با طرح شکایت علیه OpenAI مدعی شد ChatGPT او را از مراجعه به مراکز درمانی برای دریافت مراقبت‌های فوری منصرف کرده است. در شکایت گسترده‌تر ایالت فلوریدا نیز OpenAI متهم شده است که هنگام تبلیغ ChatGPT، خطرات ایمنی آن را کم‌اهمیت جلوه داده است.
OpenAI به تقویت تدابیر ایمنی خود اشاره می‌کند
OpenAI این ادعای کلی را که مسائل ایمنی را نادیده گرفته است، رد می‌کند. این شرکت در ماه اوت نسخه ویژه نوجوانان ChatGPT را راه‌اندازی کرد که کاربران شناسایی‌شده در گروه سنی ۱۳ تا ۱۷ سال را به‌طور خودکار به محیطی با تدابیر حفاظتی سخت‌گیرانه‌تر منتقل می‌کند. این تدابیر برای محافظت از نوجوانان در برابر محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و دیگر موضوعات پرخطر طراحی شده‌اند. این نسخه همچنین امکاناتی مانند کنترل والدین، یادآوری زمان استراحت و اعلان‌های ایمنی محدود را در اختیار کاربران قرار می‌دهد. OpenAI پیش‌تر نیز با عرضه این نسخه، تدابیر حفاظتی پیش‌فرض سخت‌گیرانه‌تر و ابزارهای نظارتی ویژه والدین را برای کاربران نوجوان فراهم کرده بود.
درو پوساتری، سخنگوی OpenAI، در بیانیه‌ای که در اختیار پولیتیکو قرار گرفت، گفت: «هرچند هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، ما همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه‌های آن‌ها در فعالیت‌هایمان بهره بگیریم و تدابیر حفاظتی بیشتری ایجاد کنیم.» او در این بیانیه به امکانات کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران اشاره کرد. پوساتری همچنین گفت OpenAI از «سیاست‌های عمل‌گرایانه در حوزه هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط یک شرکت» حمایت می‌کند.
این شکایت‌ها در حالی مطرح شده‌اند که اختلاف‌نظر گسترده‌تری نیز درباره فرهنگ ایمنی در OpenAI جریان دارد. سه پژوهشگر سابق حوزه ایمنی این شرکت به‌تازگی مدعی شده‌اند پس از مطرح کردن نگرانی‌های خود درباره ایمنی هوش مصنوعی اخراج شده‌اند. در مقابل، OpenAI اعلام کرده است که قطع همکاری با این افراد به دلیل «نقض جدی اعتماد» در ارتباط با نحوه مدیریت اطلاعات حساس بوده و ارتباطی با مطرح کردن نگرانی‌های ایمنی نداشته است.
هم‌زمان با این شکایت‌ها، دولت فدرال آمریکا نیز نظارت بر ایمنی هوش مصنوعی را تشدید کرده است. کمیسیون تجارت فدرال آمریکا (FTC) روز چهارشنبه با صدور درخواست‌های رسمی تحقیقاتی در چارچوب تحقیقات مدنی از شرکت‌های بزرگ هوش مصنوعی خواست اسنادی درباره رخدادهای امنیتی، تدابیر حفاظتی، سیاست‌های حریم خصوصی و شیوه‌های بازاریابی خود ارائه دهند. به گزارش اکسیوس، این نهاد همچنین قصد دارد مدیران ارشد شرکت‌های بزرگ هوش مصنوعی را به ادای شهادت ملزم کند. این اقدامات در شرایطی صورت می‌گیرد که دولت ترامپ، پس از مجموعه‌ای از رخدادهای امنیتی، بررسی سامانه‌های هوش مصنوعی بالقوه فریبنده یا ناایمن را شدت بخشیده است.