هشت ایالت آمریکا به‌دلیل آسیب‌های ادعایی چت‌جی‌پی‌تی به کاربران از OpenAI شکایت کردند
کریس کوباچ، دادستان کل ایالت کانزاس، اعلام کرد که ایالت‌ها برای تصویب قوانین فدرال به‌منظور مهار شرکت‌های هوش مصنوعی دست روی دست نخواهند گذاشت.
نویسندگان: آنجلا یانگ و جو کاتکه
هشت ایالت آمریکا روز چهارشنبه علیه شرکت OpenAI شکایت کردند و این شرکت را متهم کردند که والدین را درباره ایمنی چت‌جی‌پی‌تی گمراه کرده است.
این شکایت‌های هماهنگ که به‌صورت جداگانه در ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا ثبت شده‌اند، این غول هوش مصنوعی را به‌دلیل آسیب‌هایی هدف قرار داده‌اند که ادعا می‌شود چت‌بات هوش مصنوعی مولد آن به کودکان این ایالت‌ها وارد کرده است.
برنا برد، دادستان کل آیووا، در نشست خبری اعلام این اقدام حقوقی گفت: «OpenAI می‌خواست نخستین شرکتی باشد که محصولش را روانه بازار می‌کند. این شرکت با سرعت زیادی چت‌جی‌پی‌تی را توسعه داد، درحالی‌که می‌دانست به کودکان آسیب می‌رساند، به والدین دروغ می‌گوید و قوانین ما را نقض می‌کند.» او افزود: «همه باید از قانون پیروی کنند.»
چت‌جی‌پی‌تی، محصول شاخص هوش مصنوعی این شرکت، در نوامبر ۲۰۲۳ با فراگیر شدن در میان عموم مردم، موج گسترش هوش مصنوعی مولد را به راه انداخت و به‌سرعت به بزرگ‌ترین چت‌بات جهان تبدیل شد. این اپلیکیشن در تابستان امسال از مرز یک میلیارد کاربر فعال ماهانه در سراسر جهان عبور کرد.
در سال‌های اخیر، کاربران بیش از پیش برای نیازهای گوناگون، از یافتن هم‌صحبت و دریافت مشاوره روان‌شناختی گرفته تا انجام طیف گسترده‌ای از وظایف به کمک عامل‌های هوش مصنوعی در زندگی شخصی و حرفه‌ای خود، به چت‌جی‌پی‌تی و دیگر چت‌بات‌ها روی آورده‌اند.
در نشست خبری روز چهارشنبه، کریس کوباچ، دادستان کل کانزاس، مایک هیلگرز، دادستان کل نبراسکا، و جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، نیز در کنار برنا برد حضور داشتند. برد گفت هدف آن‌ها این است که «در برابر شرکت‌هایی که با آسیب رساندن به فرزندان ما و نقض قوانینمان پول درمی‌آورند، جبهه‌ای متحد تشکیل دهند».
برد به مواردی اشاره کرد که در آن‌ها، به گفته او، چت‌جی‌پی‌تی کاربران را برای خودکشی راهنمایی کرده، به شیوه‌هایی به آن‌ها کمک کرده که امکان آسیب رساندن به دیگران را فراهم کرده و توصیه‌های پزشکی خطرناکی ارائه داده است؛ توصیه‌هایی که در یکی از موارد، به مرگ یک نوجوان اهل تگزاس بر اثر مصرف بیش‌ازحد مواد منجر شده است. او همچنین به ناتوانی OpenAI در جلوگیری از اقدامات عامل‌های هوش مصنوعی خارج‌شده از کنترل این شرکت اشاره کرد که به‌طور غیرقانونی به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند.
درو پوساتری، سخنگوی OpenAI، در بیانیه‌ای نوشت که این شرکت «تدابیر حفاظتی متناسب با سن کاربران را در محصول خود گنجانده که از پیشرفته‌ترین نمونه‌ها در این صنعت هستند و بسیاری از محصولات هوش مصنوعی دیگر از آن‌ها برخوردار نیستند».
پوساتری نوشت: «اگرچه هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا از دیدگاه‌های آن‌ها در کار خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ همان‌طور که اکنون قابلیت‌هایی مانند کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران را ارائه کرده‌ایم. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»
او افزود که OpenAI همچنان اطلاعات مربوط به «اقدامات گسترده‌ای را که در واکنش به موارد رفتار ناهمسو با اهداف و محدودیت‌های تعیین‌شده انجام داده‌ایم» منتشر خواهد کرد. پوساتری توضیح داد: «ما تدابیر حفاظتی را در سراسر سامانه‌های پژوهشی خود تقویت کرده‌ایم، بررسی گسترده‌تر فعالیت مدل‌ها را ادامه داده‌ایم، سازمان‌های آسیب‌دیده را در جریان گذاشته‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
ماه گذشته، OpenAI نسخه‌ای محدودشده از چت‌جی‌پی‌تی برای نوجوانان ۱۳ تا ۱۸ ساله عرضه کرد که از محدودیت‌های ایمنی سخت‌گیرانه‌تر و امکانات کنترل والدین برخوردار است.
کوباچ گفت دادستان‌های کل ایالت‌های مختلف آمریکا در دهه‌های گذشته گاهی به‌صورت مشترک شکایت‌هایی را مطرح کرده‌اند؛ از جمله پرونده‌های حقوقی مربوط به داروهای مخدر شبه‌افیونی و صنعت دخانیات یا موارد نقض قانون اساسی از سوی دولت‌های ریاست‌جمهوری.
او گفت: «اما معمولاً ما را نمی‌بینید که برای اعلام یک شکایت دور هم جمع شویم، مگر اینکه موضوع واقعاً بسیار مهم باشد. این یکی از همان پرونده‌های بسیار مهم است. به همین دلیل من سه ساعت و نیم رانندگی کردم تا به اینجا برسم و مایک هم از لینکلن دو ساعت و نیم در راه بود.»
کوباچ توضیح داد که این شکایت‌ها بر اساس قوانین حمایت از مصرف‌کننده در هر یک از ایالت‌های مربوطه مطرح شده‌اند. در متن شکایت‌ها ادعا شده است که طراحی بیش‌ازحد تأییدگر و موافق چت‌جی‌پی‌تی باعث شده کاربران به آن اعتماد کنند و به آن وابسته شوند؛ ویژگی‌ای که این ابزار را به‌ویژه برای کاربران آسیب‌پذیر، از جمله کودکان، «خطرناک» می‌کند.
در این شکایت‌ها همچنین به مجموعه رو به گسترشی از پژوهش‌ها استناد شده که نشان می‌دهند چت‌جی‌پی‌تی ممکن است «مهارت‌های تفکر انتقادی را تضعیف کند»، «بدگمانی‌های افراطی و باورهای هذیانی را تقویت کند» و «رفتارها و روابط ناسالم را ترویج دهد».
طرح این شکایت‌ها از سوی ایالت‌ها پس از آن صورت می‌گیرد که روز سه‌شنبه نیز درخواست رسیدگی به یک شکایت گروهی دیگر در دادگاه فدرال سان‌فرانسیسکو ثبت شد. در آن پرونده، OpenAI متهم شده است که به‌طور غیرقانونی «حجم عظیمی از داده‌های بسیار حساس و ارزشمند» میلیون‌ها کودک استفاده‌کننده از چت‌جی‌پی‌تی را جمع‌آوری کرده است.
شرکت‌های فناوری متعدد دیگری، از جمله متا و روبلاکس، نیز با شکایت‌هایی بر پایه اتهامات مشابه روبه‌رو شده‌اند. در این پرونده‌ها ادعا شده است که اقدامات فریبکارانه این شرکت‌ها، از طریق ایجاد اعتیاد یا فراهم کردن زمینه سوءاستفاده افراد سوءاستفاده‌گر از کودکان، به آن‌ها آسیب رسانده است.
کوباچ روز چهارشنبه گفت قانون‌گذاران فدرال تاکنون نتوانسته‌اند شرکت‌های هوش مصنوعی را به‌طور مؤثر تحت نظارت و کنترل قرار دهند. او افزود: «به نظر می‌رسد بسیاری از اعضای کنگره تمایل چندانی ندارند که از اعمال محدودیت‌های جدی بر شرکت‌های فعال در حوزه هوش مصنوعی حمایت کنند.» به گفته او، نتیجه این وضعیت آن است که عملاً از شرکت‌های هوش مصنوعی خواسته می‌شود خودشان بر عملکردشان نظارت کنند.
کوباچ گفت: «اینکه بخواهیم هوش مصنوعی را صرفاً از طریق قانون‌گذاری تنظیم کنیم و امیدوار باشیم روزی، به شکلی، استانداردی تدوین شود که بتوان آن را اعمال کرد و همه‌چیز را سامان داد، تلاشی بیهوده است. این روند کند و ضعیف است و به احتمال زیاد نتیجه مؤثری نخواهد داشت.»
او در پایان افزود: «ما قطعاً از کنگره و قانون‌گذاران ایالتی می‌خواهیم که تحقیقات خود را ادامه دهند و همچنان به دنبال راه‌حل باشند. اما تا آن زمان، قرار نیست دست روی دست بگذاریم و منتظر بمانیم.»