محصولات معیوب: اوپن‌ای‌آی، چت‌بات‌های خطرناک و فریبکاری
طرح چنین شکایت‌هایی دیر یا زود اجتناب‌ناپذیر بود. با گسترش بی‌وقفه چت‌بات‌های هوش مصنوعی در اینترنت و جلب توجه و وابستگی بی‌چون‌وچرای کاربرانی که از پیامدهای احتمالی این فناوری آگاه نیستند، دعاوی حقوقی نیز به امری رایج تبدیل شده‌اند. شکایت‌های اولیه عمدتاً بر نقض حق نشر و مالکیت فکری متمرکز بودند، اما اکنون توجه‌ها به مسائل ایمنی و ارائه اطلاعات گمراه‌کننده معطوف شده است. در ایالات متحده، ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا به‌صورت هماهنگ شکایت‌هایی را مطرح کرده‌اند که در آن‌ها نقض قوانین حمایت از مصرف‌کننده و اصول حقوق عرفی مورد ادعا قرار گرفته است.
این اقدامات در ادامه راهی صورت می‌گیرند که جیمز اوتمایر، دادستان کل فلوریدا، در پیش گرفت. او در ماه ژوئن علیه اوپن‌ای‌آی و سم آلتمن، مدیرعامل این شرکت، اقامه دعوا کرد و مدعی شد که «اوپن‌ای‌آی و آلتمن هشدارهای ایمنی داخلی و خارجی را نادیده گرفتند، کودکان را در معرض خطر جدی قرار دادند و اجازه دادند محصولی خطرناک به دست میلیون‌ها نفر از ساکنان فلوریدا برسد».
این دعاوی هماهنگ که دادستان‌های کل ایالت‌های مربوطه از ۱۴ اکتبر آغاز کرده‌اند، از سازوکاری بهره می‌گیرند که پیش‌تر برای پیگیری آسیب‌های احتمالی ناشی از پلتفرم‌های شبکه‌های اجتماعی به کار رفته بود. بااین‌حال، شاکیان در این پرونده‌ها از اطمینان بیشتری برخوردارند؛ زیرا این فناوری با سرعت چشمگیری فراگیر شده است. آن‌ها مدعی‌اند اوپن‌ای‌آی چت‌بات مولد چت‌جی‌پی‌تی را ایمن، قابل‌اعتماد و مناسب نوجوانان معرفی کرده و برای اثبات این ادعا به رتبه‌بندی «۱۳ سال به بالا» در اپ‌استور و پیام تبلیغاتی «ایمن به‌صورت پیش‌فرض» استناد کرده است. اما چت‌جی‌پی‌تی کاستی‌های متعددی دارد: ممکن است بیش از حد با کاربران موافقت کند، همدلی انسانی را شبیه‌سازی کند، کاربران را به تعامل طولانی‌مدت ترغیب کند و داده‌های آن‌ها را گردآوری کند. مدل‌های پیشرفته اوپن‌ای‌آی نیز در موارد متعددی نشان داده‌اند که ایمن نیستند؛ طبق اسناد شکایت، این مدل‌ها بارها از محدودیت‌های آزمایشگاهی خود خارج شده‌اند، به سامانه‌های رایانه‌ای دیگر نفوذ کرده‌اند، ردپای فعالیت‌هایشان را پنهان کرده‌اند و دستورالعمل‌هایی برای مقابله با کنترل انسانی تولید کرده‌اند.
جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، در این‌باره صریح سخن گفته است. او اظهار داشت: «می‌دانیم که اوپن‌ای‌آی همه این محصولات را با سرعتی باورنکردنی عرضه کرد و این کار را به شیوه‌ای ناایمن انجام داد.» به گفته او، نبود ایمنی را می‌توان در «موارد بی‌شماری» مشاهده کرد که در آن‌ها به کودکان آموزش داده شده چگونه خودکشی کنند یا با کودکان دیگر وارد فعالیت‌های جنسی خطرناک شوند.
کریس مایس، دادستان کل آریزونا، نیز مدعی شده است که اوپن‌ای‌آی «محصولی طراحی کرده تا کاربران جوان را جذب کند و آن‌ها را تا حد امکان درگیر نگه دارد، تا بتواند داده‌های شخصی‌شان را جمع‌آوری کند یا از این طریق منافع تجاری شرکت را تأمین کند». به گفته او، این شرکت با خودداری از ایجاد سازوکارهای کافی برای حفاظت از کاربران و شفافیت و نیز پاسخ‌گو نبودن در قبال نقض مکرر قوانین آریزونا، «ساکنان آریزونا را در معرض خطر قرار داده است».
اتهام فریبکاری در سراسر این شکایت‌ها به چشم می‌خورد. بر اساس ادعاهای مطرح‌شده، اوپن‌ای‌آی خود را در برابر عموم شرکتی «مسئولیت‌پذیر» معرفی کرده و چت‌جی‌پی‌تی را «ابزاری ایمن و متناسب با سن نوجوانان که ایمنی را در اولویت قرار می‌دهد» جلوه داده است. این تصویر گمراه‌کننده به افزایش اعتماد عمومی انجامیده و شمار کاربران و میزان تعامل آن‌ها با این ابزار را بالا برده است. هم‌زمان، گردآوری داده‌ها و درآمد شرکت از مشترکان پولی و شرکای تبلیغاتی نیز افزایش یافته است.
این شکایت‌ها مجموعه گسترده‌ای از اتهامات را در بر می‌گیرند. در شکایت آریزونا، که متن آن در این سند آمده و ایالت‌های دیگر نیز ادعاهای مشابهی را مطرح کرده‌اند، چنین می‌خوانیم: «چت‌جی‌پی‌تی عمداً به‌گونه‌ای طراحی شده که بیش از حد موافق باشد و دلسوزی انسانی را وانمود کند؛ این ابزار نشان داده است که می‌تواند برای کاربران آسیب‌پذیر، مانند کودکان، و نیز برای عموم مردم بسیار خطرناک باشد.» در ادامه ادعا شده است که «اظهارات گمراه‌کننده مکرر و عطش سیری‌ناپذیر برای پیروزی در رقابت هوش مصنوعی، حتی به بهای عرضه بی‌ملاحظه مدل‌های ناایمن چت‌جی‌پی‌تی به عموم مردم»، با پیامدهای نگران‌کننده‌ای همراه بوده است. از جمله، ادعاهایی مطرح شده مبنی بر اینکه به تیراندازان عامل حملات جمعی کمک شده، به شهروندان آسیب‌پذیر آموزش داده شده چگونه خودکشی کنند، علائم افراد مبتلا به اختلالات روانی تشدید شده و افراد زیر سن قانونی به ابزاری معتاد شده‌اند که با وانمود کردن به همدلی انسانی، داده‌های آن‌ها را بدون نظارت والدین جمع‌آوری می‌کند.
بر همین اساس، شاکیان مدعی‌اند که فروش و تبلیغ چت‌جی‌پی‌تی و دیگر محصولات از نوامبر ۲۰۲۲ به بعد، مصداق فریبکاری و رویه‌های فریبنده‌ای بوده که قوانین مقابله با تقلب علیه مصرف‌کنندگان در همه ایالت‌های مشارکت‌کننده آن‌ها را منع می‌کند. این ادعاها طیفی از ویژگی‌ها و موضوعات را در بر می‌گیرند: «مشخصات، کارآمدی، کاربردهای مناسب، مزایا، کیفیت، ایمنی، شرایط و ضوابط و خطرات مرتبط با» این چت‌بات، همچنین نحوه گردآوری، استفاده و حفاظت از داده‌های شخصی و اطلاعات هویتی مصرف‌کنندگان.
بخشی از ادعاهای مربوط به فریبکاری و تبلیغات گمراه‌کننده به تصویری مربوط می‌شود که اوپن‌ای‌آی از ایمنی چت‌جی‌پی‌تی برای نوجوانان و وجود سازوکارهای حفاظتی متناسب با سن آن‌ها ارائه کرده بود؛ از جمله این ادعا که ایمنی را در اولویت قرار می‌دهد. همچنین، توانایی این ابزار در انجام «وظایف پیچیده بدون نیاز به نظارت انسانی»، ادعای تقویت و تشویق «مهارت‌های تفکر انتقادی» و وجود «محدودیت‌هایی» برای درخواست‌های «پرخطر یا ناایمن» و محتوای «حساس» زیر سؤال رفته است. دسته دیگری از ادعاهای مربوط به فریبکاری و تبلیغات گمراه‌کننده به قابلیت‌هایی مربوط می‌شود که برای چت‌جی‌پی‌تی برشمرده شده‌اند؛ از جمله مدیریت امور مالی شخصی، تنظیم و ارائه اظهارنامه‌های مالیاتی، ارائه توصیه‌های پزشکی قابل‌اعتماد و انجام «وظایف پیچیده در حد یک تیم از متخصصان دارای مدرک دکتری، بدون نیاز به نظارت انسانی».
پاسخ اوپن‌ای‌آی چندان قانع‌کننده به نظر نمی‌رسید. درو پوساتری، سخنگوی شرکت، در واکنش به این شکایت‌ها گفت: «هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما همچنان با متخصصان همکاری خواهیم کرد تا اقداماتمان را بر پایه نظرات آن‌ها پیش ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله کنترل‌های والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن که هم‌اکنون وجود دارند.»
خواسته‌های دادستان‌های کل ایالت‌ها گسترده است. آن‌ها علاوه بر جریمه‌های مدنی، خواستار صدور احکام قضایی برای جلوگیری دائمی از تکرار رویه‌های مورد ادعای اوپن‌ای‌آی و تضمین احراز سن کاربران هستند. بازپرداخت خسارت به زیان‌دیدگان، بازپس‌گیری سودها، عواید و درآمد ناخالص شرکت، الزام به حذف داده‌ها و اجرای آزمایش‌های تأییدشده برای مدل‌ها نیز در شمار خواسته‌های آن‌ها قرار دارد. همچنین، آن‌ها خواستار افشای سریع مواردی هستند که در آن یک عامل هوش مصنوعی خارج از کنترل، از محیط آزمایش خود «فرار» می‌کند.
آرکانزاس یک گام فراتر رفته و در شکایت خود خواستار صدور دستور منع فعالیت اوپن‌ای‌آی در زمینه هرگونه آزمایش بیشتر مدل‌های پیشرفته هوش مصنوعی شده است؛ این ممنوعیت باید تا زمانی برقرار بماند که تدابیر حفاظتی کافی برای اطمینان از به خطر نیفتادن عموم مردم اجرا شود و ناظران مستقل شخص ثالث نیز کفایت این تدابیر را تأیید کنند.
در نبود قوانین و مقررات سخت‌گیرانه‌تری که شرکت‌های سودجوی صنعت هوش مصنوعی را پاسخ‌گو کند، این اقدامات تازه دست‌کم می‌توانند نقطه آغازی برای مقابله با مشکلات باشند. دونالد ترامپ، رئیس‌جمهور آمریکا، با هرگونه ایده کنترل «ابرهوش» از سوی ایالت‌ها به‌شدت مخالف است؛ موضعی که در این سند کاخ سفید نیز بازتاب یافته است.
بینوی کامپارک بورسیه مشترک‌المنافع را در کالج سلوین دانشگاه کمبریج دریافت کرده است. او در دانشگاه RMIT ملبورن تدریس می‌کند. ایمیل: [email protected]