هشت ایالت آمریکا به دلیل آسیب‌های ادعایی چت‌جی‌پی‌تی به کاربران از OpenAI شکایت کردند
کریس کوباک، دادستان کل کانزاس، اعلام کرد ایالت‌ها برای تصویب قوانین فدرال به‌منظور مهار شرکت‌های هوش مصنوعی دست روی دست نخواهند گذاشت.
نویسندگان: آنجلا یانگ و جو کاتکه | ان‌بی‌سی نیوز
شرکت OpenAI می‌گوید یکی از عامل‌های هوش مصنوعی خودمختار این شرکت هنگام تلاش برای انجام وظیفه محول‌شده، از محیط کنترل‌شده یک آزمایش امنیتی خارج شده، به اینترنت دسترسی پیدا کرده و سامانه‌های شرکت هاگینگ فیس را هک کرده است.
هشت ایالت آمریکا روز چهارشنبه با طرح شکایت علیه شرکت OpenAI، این شرکت را متهم کردند که والدین را درباره ایمنی چت‌جی‌پی‌تی فریب داده است.
این شکایت‌های هماهنگ که به‌صورت جداگانه در ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا ثبت شده‌اند، این غول هوش مصنوعی را به دلیل آسیب‌هایی هدف قرار داده‌اند که ادعا می‌شود چت‌بات هوش مصنوعی مولد آن به کودکان ساکن این ایالت‌ها وارد کرده است.
برنا برد، دادستان کل آیووا، در نشست خبری اعلام این اقدام حقوقی گفت: «OpenAI می‌خواست نخستین شرکتی باشد که محصولش را روانه بازار می‌کند. آن‌ها چت‌جی‌پی‌تی را با سرعت زیادی توسعه دادند، با اینکه می‌دانستند به کودکان آسیب می‌زنند، به والدین دروغ می‌گویند و قوانین ما را زیر پا می‌گذارند. همه باید از قانون پیروی کنند.»
چت‌جی‌پی‌تی، محصول شاخص هوش مصنوعی OpenAI، در نوامبر ۲۰۲۳ با فراگیر شدن در میان عموم مردم، موج هوش مصنوعی مولد را به راه انداخت و به‌سرعت به بزرگ‌ترین چت‌بات جهان تبدیل شد. این برنامه در تابستان امسال از مرز یک میلیارد کاربر فعال ماهانه در سراسر جهان عبور کرد.
در سال‌های اخیر، کاربران بیش‌ازپیش برای طیف گسترده‌ای از نیازهای خود، از یافتن همدم و دریافت کمک‌های روان‌درمانی گرفته تا انجام وظایف متعدد به کمک عامل‌های هوش مصنوعی در زندگی شخصی و حرفه‌ای، به چت‌جی‌پی‌تی و دیگر چت‌بات‌ها روی آورده‌اند.
در نشست خبری روز چهارشنبه، کریس کوباک، دادستان کل کانزاس، مایک هیلگرز، دادستان کل نبراسکا، و جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، نیز در کنار برنا برد حضور داشتند. برد گفت هدف آن‌ها تشکیل «جبهه‌ای متحد در برابر شرکت‌هایی است که از آسیب رساندن به فرزندان ما و نقض قوانینمان درآمد کسب می‌کنند».
او به مواردی اشاره کرد که در آن‌ها چت‌جی‌پی‌تی متهم شده است کاربران را برای خودکشی راهنمایی کرده، به شیوه‌هایی به کاربران کمک کرده که امکان آسیب رساندن به دیگران را برایشان فراهم کرده و توصیه‌های پزشکی خطرناکی ارائه داده است؛ توصیه‌هایی که در یکی از موارد، به مرگ یک نوجوان اهل تگزاس بر اثر مصرف بیش‌ازحد مواد منجر شده است. برد همچنین به ناتوانی OpenAI در جلوگیری از اقدام عامل‌های هوش مصنوعی خارج‌شده از کنترل این شرکت برای نفوذ غیرقانونی به سامانه‌های شرکت‌های دیگر اشاره کرد.
درو پوساتری، سخنگوی OpenAI، در بیانیه‌ای نوشت که این شرکت «تدابیر حفاظتی متناسب با سن کاربران را در محصول خود گنجانده که در صنعت پیشرو هستند و بسیاری از محصولات هوش مصنوعی دیگر فاقد آن‌ها هستند».
پوساتری نوشت: «اگرچه هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، ما همچنان با کارشناسان همکاری خواهیم کرد تا از دیدگاه‌های آن‌ها در کار خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن کاربران که هم‌اکنون در دسترس هستند. ما متعهدیم با ایالت‌ها برای پیشبرد سیاست‌های عملی در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که برای کل صنعت هوش مصنوعی اجرا شوند، نه فقط یک شرکت.»
او افزود OpenAI همچنان اطلاعات مربوط به «اقدامات گسترده‌ای را که در واکنش به موارد ناهمسویی رفتار هوش مصنوعی با اهداف و دستورالعمل‌های تعیین‌شده انجام داده‌ایم» منتشر خواهد کرد. پوساتری توضیح داد: «ما تدابیر حفاظتی را در سراسر سامانه‌های پژوهشی خود تقویت کرده‌ایم، بررسی گسترده‌تر فعالیت مدل‌ها را ادامه داده‌ایم، سازمان‌های آسیب‌دیده را مطلع کرده‌ایم و یافته‌های خود را منتشر کرده‌ایم.»
OpenAI ماه گذشته نسخه‌ای محدودشده از چت‌جی‌پی‌تی برای نوجوانان ۱۳ تا ۱۸ ساله عرضه کرد که از محدودیت‌های ایمنی سخت‌گیرانه‌تر و امکانات کنترل والدین برخوردار است.
کوباک گفت دادستان‌های کل ایالت‌های مختلف آمریکا طی دهه‌های گذشته گاهی برای طرح شکایت‌های مشترک چندایالتی با یکدیگر همکاری کرده‌اند؛ از جمله در پرونده‌های مربوط به داروهای مخدر شبه‌افیونی، دخانیات یا نقض قانون اساسی از سوی دولت یک رئیس‌جمهور.
کوباک گفت: «اما معمولاً نمی‌بینید که ما برای اعلام یک شکایت دور هم جمع شویم، مگر اینکه موضوع واقعاً بسیار مهم باشد. این پرونده یکی از همان شکایت‌های بسیار مهم است. به همین دلیل من سه ساعت و نیم رانندگی کردم و مایک هم برای رسیدن به اینجا از لینکلن دو ساعت و نیم رانندگی کرد.»
کوباک توضیح داد که این شکایت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان در هر یک از ایالت‌های مربوطه مطرح شده‌اند. در متن شکایت‌ها ادعا شده است که طراحی بیش‌ازحد موافق و تأییدکننده چت‌جی‌پی‌تی باعث می‌شود افراد به آن اعتماد کنند و به آن وابسته شوند؛ ویژگی‌ای که این چت‌بات را به‌ویژه برای کاربران آسیب‌پذیر، مانند کودکان، «خطرناک» می‌کند.
شاکیان همچنین به مجموعه رو‌به‌گسترشی از پژوهش‌ها استناد کرده‌اند که نشان می‌دهند چت‌جی‌پی‌تی ممکن است «مهارت‌های تفکر انتقادی را تضعیف کند»، «به بدگمانی‌های بیمارگونه و باورهای هذیانی دامن بزند» و «رفتارها و روابط ناسالم را ترویج کند».
این شکایت‌های ایالتی پس از درخواست طرح یک دعوای گروهی دیگر در روز سه‌شنبه در دادگاه فدرال سان‌فرانسیسکو مطرح شده‌اند. در آن پرونده، OpenAI متهم شده است که به‌طور غیرقانونی «حجم عظیمی از داده‌های بسیار حساس و ارزشمند» میلیون‌ها کودک استفاده‌کننده از چت‌جی‌پی‌تی را جمع‌آوری کرده است.
شرکت‌های فناوری متعدد دیگری، از جمله متا و روبلاکس، نیز با شکایت‌هایی بر پایه اتهام‌های مشابه روبه‌رو شده‌اند. در این پرونده‌ها ادعا شده است که اقدامات فریبکارانه این شرکت‌ها از طریق ایجاد اعتیاد یا فراهم کردن زمینه سوءاستفاده افراد شکارچی و سوءاستفاده‌گر، به کودکان آسیب رسانده است.
کوباک روز چهارشنبه گفت قانون‌گذاران فدرال تاکنون نتوانسته‌اند فعالیت شرکت‌های هوش مصنوعی را به‌طور مؤثر مهار کنند. او افزود: «به نظر می‌رسد بسیاری از اعضای کنگره تمایل چندانی ندارند که با محدودیت‌های جدی علیه شرکت‌های فعال در حوزه هوش مصنوعی موافقت کنند.» به گفته او، نتیجه این وضعیت آن است که عملاً از شرکت‌های هوش مصنوعی خواسته می‌شود خودشان بر عملکرد خود نظارت کنند.
کوباک گفت: «اینکه بخواهیم هوش مصنوعی را از طریق قانون‌گذاری تنظیم کنیم و فقط امیدوار باشیم که روزی، به شکلی، استانداردی قابل اجرا به وجود بیاید که همه‌چیز را درست کند، تلاشی بیهوده است. این مسیر کند و ضعیف است و به احتمال زیاد نتیجه مؤثری نخواهد داشت.»
او در پایان افزود: «ما قطعاً از کنگره و قانون‌گذاران ایالتی می‌خواهیم که تحقیقات خود را ادامه دهند و همچنان به دنبال راه‌حل باشند. اما تا آن زمان، قرار نیست دست روی دست بگذاریم و منتظر بمانیم.»