محصولات معیوب: اوپن‌ای‌آی، چت‌بات‌های خطرناک و فریب‌کاری
طرح چنین شکایت‌هایی دیر یا زود قابل پیش‌بینی بود. با گسترش بی‌وقفه چت‌بات‌های هوش مصنوعی در اینترنت و جلب توجه و اعتماد بی‌چون‌وچرای کاربرانی که ممکن است از خطرهای آن‌ها آگاه نباشند، شکایت‌های حقوقی نیز به پدیده‌ای رایج تبدیل شده‌اند. این پرونده‌ها در ابتدا بیشتر بر نقض حق نشر و مالکیت فکری متمرکز بودند، اما اکنون ایمنی و ارائه اطلاعات گمراه‌کننده نیز در کانون توجه قرار گرفته‌اند. در ایالات متحده، هشت ایالت آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا به‌طور هماهنگ شکایت‌هایی را مطرح کرده‌اند که در آن‌ها اوپن‌ای‌آی به نقض قوانین حمایت از مصرف‌کننده و رویه‌های حقوقی تثبیت‌شده در حقوق عرفی متهم شده است.
این اقدامات در ادامه راهی صورت می‌گیرند که جیمز اوتمایر، دادستان کل فلوریدا، در پیش گرفته بود. او در ماه ژوئن از اوپن‌ای‌آی و سم آلتمن، مدیرعامل این شرکت، شکایت کرد و مدعی شد که «اوپن‌ای‌آی و آلتمن هشدارهای ایمنی داخلی و خارجی را نادیده گرفتند، کودکان را در معرض خطر جدی قرار دادند و اجازه دادند محصولی خطرناک به دست میلیون‌ها نفر از ساکنان فلوریدا برسد».
این دعاوی هماهنگ که دادستان‌های کل ایالت‌های مربوطه از ۱۴ اکتبر آغاز کرده‌اند، از الگویی پیروی می‌کنند که پیش‌تر برای پیگیری آسیب‌های احتمالی شبکه‌های اجتماعی به کار گرفته شده بود. بااین‌حال، شاکیان این بار به دلیل سرعت فراگیرشدن فناوری، از موضعی مطمئن‌تر وارد میدان شده‌اند. آن‌ها می‌گویند اوپن‌ای‌آی چت‌بات مولد چت‌جی‌پی‌تی را به‌عنوان ابزاری ایمن، قابل‌اعتماد و مناسب نوجوانان عرضه کرده است؛ ادعایی که به رتبه‌بندی سنی «۱۳ سال به بالا» در اپ‌استور و پیام‌های تبلیغاتی شرکت با مضمون «ایمنی به‌صورت پیش‌فرض» استناد دارد.
به ادعای شاکیان، چت‌جی‌پی‌تی در عمل کاستی‌های متعددی دارد: گاهی بیش از اندازه با کاربر موافقت می‌کند، همدلی انسانی را شبیه‌سازی می‌کند، کاربران را به تعامل طولانی‌مدت ترغیب می‌کند و داده‌های آنان را گردآوری می‌کند. همچنین، مدل‌های پیشرفته اوپن‌ای‌آی بارها نشان داده‌اند که ممکن است از محدودیت‌های آزمایشگاهی خود فراتر بروند؛ از جمله با نفوذ به سامانه‌های رایانه‌ای دیگر، پنهان‌کردن ردپای اقداماتشان و تولید دستورالعمل‌هایی برای مقابله با کنترل انسانی. این موارد در شکایت ثبت‌شده نیز مطرح شده‌اند.
جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، در این باره صریح سخن گفت: «می‌دانیم که اوپن‌ای‌آی همه این محصولات را با سرعتی باورنکردنی عرضه کرد و این کار را به شیوه‌ای ناایمن انجام داد.» او برای توضیح این نگرانی به «نمونه‌های بی‌شماری از کودکانی» اشاره کرد که به گفته او، به آن‌ها آموزش داده شده بود چگونه خودکشی کنند یا با کودکان دیگر وارد فعالیت‌های جنسی خطرناک شوند.
کریس مایس، دادستان کل آریزونا، نیز ادعا کرد که اوپن‌ای‌آی «محصولی طراحی کرده است که کاربران جوان را جذب کند و تا حد امکان آن‌ها را درگیر نگه دارد تا بتواند داده‌های شخصی‌شان را گردآوری کند یا از این راه به منافع تجاری برسد». به گفته او، این شرکت با اجرا نکردن تدابیر کافی برای حفاظت از کاربران و شفافیت نداشتن، و نیز با پاسخ‌گو نبودن در برابر تخلفات مکرر خود از قوانین آریزونا، «ساکنان این ایالت را در معرض خطر قرار داده است».
اتهام فریب‌کاری همچون رشته‌ای پررنگ در سراسر این شکایت‌ها امتداد دارد. شاکیان می‌گویند اوپن‌ای‌آی خود را در برابر افکار عمومی «شرکتی مسئولیت‌پذیر» معرفی کرده و چت‌جی‌پی‌تی را «ابزاری ایمن و مناسب جوانان دانسته که ایمنی را در اولویت قرار می‌دهد». به ادعای آن‌ها، این تصویر نادرست اعتماد عمومی را افزایش داد و به رشد سریع شمار کاربران و میزان تعامل آن‌ها با سامانه انجامید. در همین حال، گردآوری داده‌ها و درآمد شرکت از مشترکان پولی و شرکای تبلیغاتی نیز افزایش یافت.
این شکایت‌ها مجموعه گسترده‌ای از اتهام‌ها را در بر می‌گیرند. متن زیر از شکایت آریزونا نقل شده و ایالت‌های دیگر نیز ادعاهای مشابهی را مطرح کرده‌اند: «چت‌جی‌پی‌تی عمداً به‌گونه‌ای طراحی شده است که بیش از اندازه موافق باشد و وانمود کند از شفقت انسانی برخوردار است؛ بااین‌حال، ثابت کرده که می‌تواند برای کاربران آسیب‌پذیر، از جمله کودکان، و برای عموم مردم به‌شدت خطرناک باشد.»
در ادامه این شکایت آمده است که به دلیل «اظهارات گمراه‌کننده مکرر و عطش سیری‌ناپذیر برای پیروزی در رقابت هوش مصنوعی، حتی اگر این امر به معنای عرضه بی‌ملاحظه مدل‌های ناایمن چت‌جی‌پی‌تی به عموم باشد»، اتهام‌هایی مطرح شده مبنی بر اینکه این سامانه به عاملان تیراندازی‌های جمعی کمک کرده، به افراد آسیب‌پذیر درباره چگونگی خودکشی آموزش داده، علائم بیماری‌های روانی را در برخی افراد تشدید کرده و موجب وابستگی نوجوانان به ابزاری شده است که با وانمودکردن به همدلی انسانی، داده‌های آن‌ها را بدون نظارت والدین جمع‌آوری می‌کند.
بر همین اساس، شاکیان می‌گویند فروش و تبلیغ چت‌جی‌پی‌تی و دیگر محصولات مرتبط از نوامبر ۲۰۲۲ به بعد، مصداق فریب‌کاری و اقدامات گمراه‌کننده بر اساس قوانین مقابله با تقلب در معاملات مصرف‌کنندگان در تمام ایالت‌های مشارکت‌کننده بوده است. این اتهام‌ها به ادعاهای شرکت درباره «ویژگی‌ها، اثربخشی، کاربردهای مناسب، مزایا، کیفیت، ایمنی، شرایط و ضوابط و خطرهای مرتبط با» چت‌بات، و نیز نحوه گردآوری، استفاده و حفاظت از داده‌های شخصی و اطلاعات هویتی مصرف‌کنندگان مربوط می‌شوند.
بخشی از اتهام‌های تبلیغات گمراه‌کننده به این ادعا مربوط است که چت‌جی‌پی‌تی برای نوجوانان ایمن است و تدابیر حفاظتی متناسب با سن آن‌ها دارد؛ از جمله این ادعا که ایمنی در اولویت قرار گرفته است. توانایی چت‌بات در انجام «وظایف پیچیده بدون نیاز به نظارت انسانی»، ادعای ارتقا و تقویت «مهارت‌های تفکر انتقادی» کاربران، و این ادعا که سامانه برای درخواست‌های «پرخطر یا ناایمن» و محتوای «حساس» محدودیت‌هایی دارد نیز در زمره موارد مورد اعتراض قرار گرفته‌اند.
دسته دیگری از ادعاهای فریب‌کاری به قابلیت‌هایی مربوط می‌شود که برای چت‌جی‌پی‌تی تبلیغ شده‌اند؛ از جمله اینکه می‌تواند امور مالی شخصی را مدیریت کند، اظهارنامه مالیاتی تنظیم و ثبت کند، توصیه‌های پزشکی قابل‌اعتماد ارائه دهد و «وظایف پیچیده‌ای را در سطح معادل یک گروه از متخصصان دارای مدرک دکتری انجام دهد، بی‌آنکه به نظارت انسانی نیاز داشته باشد».
واکنش اوپن‌ای‌آی به این اتهام‌ها چندان قانع‌کننده توصیف نشده است. درو پوساتری، سخنگوی شرکت، در پاسخ گفت: «هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما همچنان با کارشناسان همکاری خواهیم کرد تا فعالیت‌هایمان را هدایت کنیم و تدابیر حفاظتی بیشتری به کار بگیریم؛ از جمله کنترل‌های والدین، یادآوری زمان استراحت و حفاظت‌های متناسب با سن که اکنون وجود دارند.» این اظهارات در گزارشی از شبکه خبری سی‌بی‌اس ۶ آلبانی نقل شده است.
خواسته‌های دادستان‌های کل ایالت‌ها گسترده است. آن‌ها خواستار اعمال جریمه‌های مدنی، صدور دستورهای قضایی برای جلوگیری دائمی از تکرار اقدامات مورد ادعای اوپن‌ای‌آی و تضمین احراز سن کاربران، بازپرداخت خسارت به زیان‌دیدگان و بازپس‌گیری سودها، منافع مالی و درآمد ناخالص شرکت شده‌اند. همچنین، حذف داده‌ها و اجرای آزمایش‌های تأییدشده برای مدل‌ها را مطالبه می‌کنند؛ همراه با الزام به افشای فوری مواردی که در آن‌ها یک عامل هوش مصنوعی خارج از کنترل از محیط آزمایش خود «فرار» می‌کند.
آرکانزاس یک گام فراتر رفته و در شکایت خود خواستار صدور دستور قضایی برای منع اوپن‌ای‌آی از هرگونه آزمایش بیشتر روی مدل‌های پیشرفته هوش مصنوعی شده است؛ این ممنوعیت باید تا زمانی ادامه یابد که تدابیر حفاظتی کافی برای اطمینان از بی‌خطر بودن آزمایش‌ها برای عموم اجرا شوند و ناظران مستقل شخص ثالث نیز کفایت این تدابیر را تأیید کنند.
در شرایطی که هنوز قواعد و مقررات سخت‌گیرانه‌تری برای پاسخ‌گو کردن بازیگران سودمحور صنعت هوش مصنوعی وجود ندارد، این تلاش‌های حقوقی دست‌کم می‌توانند نقطه شروعی باشند. دونالد ترامپ، رئیس‌جمهور آمریکا، هرگونه ایده کنترل «ابرهوش» از سوی دولت‌های ایالتی را به‌شدت رد می‌کند؛ موضعی که در دستورالعمل ریاست‌جمهوری او نیز بازتاب یافته است. در چنین فضایی، اقدام ایالت‌ها برای پاسخ‌گو کردن شرکت‌های هوش مصنوعی، هرچند به‌تنهایی کافی نیست، می‌تواند آغازی برای مقابله با خطرهای مورد ادعا باشد.
درباره نویسنده
دکتر بینوی کامپارک بورسیه مشترک‌المنافع را در کالج سلوین دانشگاه کمبریج دریافت کرده است. او در حال حاضر در دانشگاه RMIT تدریس می‌کند.