آریزونا شرکت OpenAI را به آسیب‌رساندن به نوجوانان و فریب والدین متهم کرد
کریس مایز، دادستان کل ایالت آریزونا، همچنین شرکت OpenAI را متهم کرده است که با فراهم‌کردن زمینه خروج «عامل‌های هوش مصنوعی سرکش» از محیط‌های کنترل‌شده، امکان حمله سایبری آن‌ها به وب‌سایت‌های اشخاص ثالث را فراهم کرده است.
فینیکس (CN) ـ شرکت OpenAI، سازنده چت‌جی‌پی‌تی، تازه‌ترین هدف کارزار کریس مایز، دادستان کل آریزونا، برای حمایت از مصرف‌کنندگان در برابر غول‌های فناوری شده است. مایز این شرکت را به آسیب‌رساندن به کودکان آریزونا، فریب والدین و نقض قوانین ایالتی متهم کرده است.
مایز در شکایتی که روز چهارشنبه ثبت شد، مدعی است شیوه‌های فریبنده OpenAI در طراحی و بازاریابی محصولاتش، ویژگی‌هایی از چت‌جی‌پی‌تی را از دید کاربران پنهان می‌کند. به گفته او، این ویژگی‌ها باعث شده‌اند چت‌جی‌پی‌تی به شکلی غیرعادی با کاربران موافقت کند، بیش از اندازه تأییدکننده حرفهای آن‌ها باشد و عمداً با تظاهر به همدلی انسانی، کاربران آریزونا، از جمله افراد زیر سن قانونی، را به استفاده بیشتر و عمیق‌تر از این پلتفرم ترغیب کند.
این شکایت در دادگاه عالی شهرستان ماریکوپا ثبت شده است؛ تنها یک هفته پس از آنکه مایز اقدام حقوقی مشابهی علیه تیک‌تاک انجام داد و این شبکه اجتماعی را به معتادکردن عمدی نوجوانان آریزونا به استفاده از پلتفرم خود متهم کرد. او در شکایت روز چهارشنبه مدعی شده است که OpenAI در موارد متعددی قانون مقابله با تقلب علیه مصرف‌کنندگان در آریزونا را نقض کرده است.
مایز در بیانیه مطبوعاتی روز چهارشنبه که هم‌زمان با طرح شکایت منتشر شد، گفت: «OpenAI محصولی طراحی کرده است که کاربران کم‌سن‌وسال را جذب کند و آن‌ها را تا جای ممکن درگیر نگه دارد تا بتواند حجم گسترده‌ای از داده‌های شخصی آن‌ها را برای منافع تجاری خود جمع‌آوری کند. این شرکت با وجود نشانه‌های آشکار مبنی بر اینکه افراد زیر سن قانونی به‌طور مرتب با چت‌بات آن تعامل دارند، از اجرای تدابیر کافی برای حفاظت از کاربران و ایجاد شفافیت خودداری کرده و امنیت ساکنان آریزونا را به خطر انداخته است.»
روز چهارشنبه شکایت‌های مشابهی نیز در ایالت‌های آرکانزاس، آیداهو، مونتانا، آیووا، کانزاس، ویرجینیای غربی و نبراسکا ثبت شد.
مایز می‌گوید OpenAI در شتاب برای عرضه چت‌جی‌پی‌تی به‌عنوان نخستین چت‌بات هوش مصنوعی مولد که به استفاده گسترده عموم مردم رسید، سودآوری را بر ایمنی ترجیح داده است. به ادعای او، این شرکت با استفاده از روش‌های فریبنده در طراحی محصول و گنجاندن گرایشی آموزش‌دیده به موافقت با کاربران که سازوکارهای ایمنی موجود را بی‌اثر می‌کند، چت‌جی‌پی‌تی را به‌گونه‌ای ساخته است که استفاده وسواس‌گونه از آن را در میان افراد زیر سن قانونی به حداکثر برساند.
OpenAI چت‌جی‌پی‌تی را در سال ۲۰۲۲ توسعه داد و عرضه کرد. این محصول اکنون محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار چت‌بات‌ها در آمریکا را در اختیار دارد.
مایز در شکایت خود می‌گوید OpenAI خطرات احتمالی متعددی را که استفاده از چت‌جی‌پی‌تی برای نوجوانان به همراه دارد، به آن‌ها اطلاع نمی‌دهد. از جمله این خطرات می‌توان به تضعیف مهارت‌های تفکر انتقادی، تقویت بدگمانی بی‌دلیل یا افکار هذیانی، ارائه توصیه‌های پزشکی خطرناک بدون داشتن مجوز حرفهای و ترویج رفتارها و روابط ناسالم اشاره کرد.
این پلتفرم حتی در برخی موارد پاسخ‌هایی تولید کرده است که کاربران را به آسیب‌رساندن به خود یا خشونت علیه دیگران تشویق کرده‌اند؛ موضوعی که به طرح شکایت‌هایی از سوی والدین و شهروندان نگران منجر شده است. افراد دیگری نیز پس از دریافت آنچه خودشان «توصیه‌های پزشکی خطرناک» می‌نامند، علیه این شرکت شکایت کرده‌اند.
مایز در متن شکایت نوشته است: «OpenAI می‌توانست به‌طور منطقی این خطرات را پیش‌بینی کند، اما هرگز آن‌ها را به مصرف‌کنندگان آریزونا اطلاع نداد. این شرکت با گمراه‌کردن مردم و ایجاد این باور که OpenAI شرکتی مسئولیت‌پذیر است و چت‌جی‌پی‌تی در گذشته و حال ابزاری ایمن، مناسب برای نوجوانان و متعهد به اولویت‌دادن به ایمنی بوده است، باعث شده مصرف‌کنندگان آریزونا بیش از پیش به این شرکت و محصول آن اعتماد و اتکا کنند.»
OpenAI می‌گوید محصولاتش را فقط برای کودکان ۱۳ سال به بالا بازاریابی می‌کند و استفاده افراد زیر ۱۸ سال از این محصولات را مشروط به اجازه والدین می‌داند.
یکی از سخنگویان OpenAI به کورتهوس نیوز گفت: «ما تدابیر حفاظتی متناسب با گروه‌های سنی مختلف را در محصول خود گنجانده‌ایم که در صنعت پیشرو هستند و بسیاری از محصولات هوش مصنوعی دیگر از آن‌ها برخوردار نیستند. هرچند هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دانش و دیدگاه آن‌ها در کار خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم. کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی مدل متناسب با سن کاربران از جمله امکاناتی هستند که هم‌اکنون ارائه می‌کنیم. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط یک شرکت.»
همچنین مجموعه‌ای از حملات سایبری به عامل‌های هوش مصنوعی خارج‌شده از کنترل OpenAI نسبت داده شده است. مایز مسئولیت هفت مورد «رویداد مرتبط با عامل‌های هوش مصنوعی سرکش» را که بین ماه‌های مه و اوت رخ داده‌اند، متوجه این شرکت می‌داند. به گفته او، در پنج مورد از این رویدادها، عامل‌های هوش مصنوعی از محیط آزمایش داخلی OpenAI خارج شده‌اند.
در ماه مه، عامل‌هایی که OpenAI در حال آزمایش آن‌ها بود، حمله‌ای سایبری علیه سرویس نرم‌افزاری RubyGems انجام دادند و این سرویس را ناچار کردند ثبت‌نام حساب‌های کاربری جدید را متوقف کند. در رویداد دیگری در همان ماه، عامل‌های OpenAI کنترل یک انجمن ویکی آلمانی به نام DSEWiki را به دست گرفتند و با تصرف آن، این وب‌سایت را به محلی برای تبادل پیام میان سایر عامل‌های هوش مصنوعی تبدیل کردند.
سخنگوی OpenAI در این‌باره گفت: «ما همچنان اطلاعات مربوط به اقدامات گسترده‌ای را که در واکنش به موارد ناهم‌راستایی رفتار مدل‌ها با اهداف مورد انتظار انجام داده‌ایم، منتشر خواهیم کرد. تدابیر حفاظتی را در سراسر سامانه‌های پژوهشی خود تقویت کرده‌ایم، بررسی گسترده‌تر فعالیت مدل‌ها را ادامه داده‌ایم، سازمان‌های آسیب‌دیده را در جریان قرار داده‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
مایز از قاضی دادگاه ایالتی خواسته است OpenAI را از آموزش یا آزمایش مدل‌های پیشرفته هوش مصنوعی در خارج از محیط‌های آزمایشی ایمن منع کند. او همچنین خواستار آن شده است که این شرکت موظف شود به‌محض خروج هر مدل یا عامل هوش مصنوعی از محیط کنترل‌شده، موضوع را به اطلاع او برساند.
دادستان کل آریزونا همچنین از قاضی خواسته است اعلام کند که OpenAI قانون مقابله با تقلب علیه مصرف‌کنندگان در این ایالت را نقض کرده است و این شرکت را ملزم کند تمام درآمدهایی را که در آریزونا از طریق اقدامات گمراه‌کننده یا ناعادلانه به دست آورده، بازگرداند. در این شکایت همچنین درخواست شده است که OpenAI بابت هر مورد نقض قوانین ایالتی، تا سقف ۱۰ هزار دلار جریمه بپردازد.
این دادستان کل دموکرات پیش‌تر نیز پرونده‌های مشابهی را با موضوع تقلب علیه مصرف‌کنندگان، علیه بازارگاه‌های اینترنتی مانند آمازون و تمو پیگیری کرده است. او همچنین در ماه اوت، همراه با دادستان‌های کل ۴۶ ایالت دیگر، بر سر توافقی چندمیلیارددلاری با شرکت متا پلتفرمز، مالک فیس‌بوک و اینستاگرام، مذاکره کرد. این توافق به ادعاهای مشابه درباره اعتیاد نوجوانان به شبکه‌های اجتماعی مربوط می‌شد که در دادگاه فدرال مطرح شده بودند.
OpenAI به درخواست ارائه توضیح در این‌باره پاسخی نداده است.