ایالت‌های آمریکا علیه OpenAI به میدان آمدند
آیا رویکرد حقوقی‌ای که در نیومکزیکو به شکست متا انجامید، در برابر چت‌جی‌پی‌تی نیز نتیجه خواهد داد؟
نویسنده: کیسی نیوتن | ۱۴ اکتبر ۲۰۲۶ | زمان مطالعه: ۸ دقیقه
این یادداشت درباره هوش مصنوعی است. نامزد من در شرکت آنتروپیک کار می‌کند. می‌توانید توضیحات کامل من درباره ملاحظات اخلاقی و تعارض منافع را اینجا بخوانید.
بخش اول
یک سال پیش، زمانی که OpenAI پس از ماه‌ها جنجال قابلیت کنترل والدین را به چت‌جی‌پی‌تی اضافه کرد، نوشتم که این شرکت با سرعتی سرسام‌آور همان موج واکنش‌های نظارتی و قانون‌گذاری را تجربه می‌کند که شرکت‌های شبکه‌های اجتماعی سال‌ها با آن دست‌وپنجه نرم کرده بودند. بیش از یک دهه طول کشید تا نگرانی‌ها درباره تأثیر شبکه‌های اجتماعی بر جوانان به جنبشی سیاسی و حقوقی تبدیل شود؛ اما همان فشارها در کمتر از سه سال به سراغ OpenAI آمدند.
امروز این روند شتاب‌گرفته زودتر از آنچه انتظار می‌رفت به نقطه عطف دیگری رسید: شکایت حقوقی گسترده و هماهنگ چند ایالت. روز چهارشنبه، دادستان‌های کل هشت ایالت آمریکا در دادگاه‌های ایالتی خود علیه OpenAI شکایت کردند. آنها مدعی‌اند چت‌جی‌پی‌تی به کاربرانش، از جمله نوجوانان، آموزش می‌دهد چگونه به خود یا دیگران آسیب برسانند. این هشت ایالت عبارت‌اند از آرکانزاس، آریزونا، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی. به‌جز آریزونا، دادستان‌های کل تمام این ایالت‌ها جمهوری‌خواه هستند؛ موضوعی که به این پرونده رنگ‌وبویی حزبی می‌دهد. البته دامنه این اقدام حقوقی به‌مراتب محدودتر از شکایت سال ۲۰۲۳ علیه متاست که ۴۲ دادستان کل در آن مشارکت داشتند.
به اعتقاد این ایالت‌ها، OpenAI چت‌جی‌پی‌تی را به‌گونه‌ای طراحی کرده که با کاربران همراهی کند و برایشان جذاب باشد تا اعتماد آنها را جلب کند. اما شرکت سپس از این اعتماد سوءاستفاده می‌کند؛ به این صورت که باورهای هذیانی کاربران را تقویت می‌کند، توصیه‌های پزشکی خطرناک می‌دهد و به آنها برای برنامه‌ریزی حملات خشونت‌آمیز، از جمله تیراندازی‌های جمعی، کمک می‌کند.
برنا برد، دادستان کل آیووا، در بیانیه‌ای به شبکه CNBC گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید. این شرکت ادعا می‌کند چت‌جی‌پی‌تی ایمن است، در حالی که این ابزار توصیه‌های پزشکی خطرناک ارائه می‌دهد، افراد را به آسیب رساندن به دیگران تشویق می‌کند و به آنها برای خودکشی آموزش می‌دهد؛ آن هم در حالی که وانمود می‌کند دوست آنهاست، دوستی که واقعی نیست.»
OpenAI در بیانیه‌ای که برای من فرستاد، اعلام کرد تمرکز این شرکت بر ایمنی محصولاتش است. این شرکت در ماه اوت مجموعه‌ای از قابلیت‌ها را با عنوان چت‌جی‌پی‌تی ویژه نوجوانان معرفی کرد که شامل تدابیر حفاظتی سخت‌گیرانه‌تر و امکانات کنترل والدین است.
این شرکت در بیانیه خود نوشت: «ما تدابیر حفاظتی متناسب با سن کاربران را در محصول خود گنجانده‌ایم که در سطح صنعت پیشرو هستند و بسیاری از محصولات هوش مصنوعی دیگر از آنها برخوردار نیستند. هرچند هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، همچنان با متخصصان همکاری خواهیم کرد تا از دیدگاه‌های آنها در کار خود بهره ببریم و تدابیر حفاظتی بیشتری ایجاد کنیم؛ از جمله قابلیت‌هایی مانند کنترل والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی مدل متناسب با سن کاربران که هم‌اکنون وجود دارند. ما متعهدیم با ایالت‌ها برای تدوین سیاست‌های عملی در حوزه هوش مصنوعی همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرد، نه فقط یک شرکت را.»
اگرچه این پرونده‌ها احتمالاً مهم‌ترین شکایت‌های مطرح‌شده علیه OpenAI تا امروز هستند، به‌هیچ‌وجه نخستین آنها نیستند. اکنون ده‌ها شکایت خصوصی علیه این شرکت جریان دارد و دولت‌ها نیز به موضوع توجه نشان داده‌اند. فلوریدا در ماه ژوئن نخستین ایالتی شد که از OpenAI شکایت کرد. ماه گذشته نیز استان بریتیش کلمبیا در کانادا به دلیل تیراندازی در مدرسه تامبلر ریج علیه این شرکت شکایت کرد. علاوه بر این، ۴۲ ایالت آمریکا به رهبری نیویورک در حال تحقیق درباره OpenAI در ارتباط با طیف گسترده‌ای از مسائل مربوط به ایمنی محصولات و حریم خصوصی هستند.
اما به گمان من نکته مهم‌تر این است که این پرونده‌ها در زمانی مطرح شده‌اند که هیئت‌های منصفه بیش از گذشته آمادگی دارند پلتفرم‌ها را بابت آنچه نقص در طراحی محصولاتشان می‌دانند، مسئول بشناسند. شکایتی که دادستان‌های کل ایالت‌ها در سال ۲۰۲۳ علیه متا مطرح کردند، به توافقی انجامید که بر اساس آن ممکن است این شرکت مجبور شود تا ۱۸ میلیارد دلار بابت ادعاهای مربوط به طراحی اعتیادآور محصولاتش برای کودکان بپردازد.
از نگاه OpenAI، موضوع نگران‌کننده‌تر این است که می‌توان استدلال کرد متا هنگام ورود به پرونده‌های حقوقی خود از حمایت‌های قانونی محکم‌تری نسبت به آنچه OpenAI امروز در اختیار دارد، برخوردار بود.
بخش دوم
در بیشتر سال‌های عمر اینترنت، هرگاه یک ایالت یا خانواده‌ای داغدار به دلیل اتفاق ناگواری که برای یکی از کاربران رخ داده بود از یک پلتفرم فناوری شکایت می‌کرد، نخستین اقدام حقوقی شرکت استناد به ماده ۲۳۰ قانون نزاکت ارتباطات آمریکا بود. این قانون در اغلب موارد شرکت‌ها را از مسئولیت حقوقی محتوایی که کاربرانشان منتشر می‌کنند مصون می‌دارد. پلتفرم‌ها نیز اغلب با اتکا به همین ماده می‌توانستند به‌سرعت خواستار رد شکایت‌ها شوند.
اما در سال‌های اخیر، وکلای شاکیان موفق شده‌اند نظریه حقوقی تازه‌ای را درباره مسئولیت پلتفرم‌ها در دادگاه‌ها به آزمون بگذارند. استدلال آنها این است که شاید پلتفرم‌ها در قبال گفته‌های کاربرانشان مسئول نباشند، اما می‌توان آنها را بابت طراحی خود پلتفرم مسئول شناخت. برای مثال، اگر اسنپ فیلتری در اختیار کاربران بگذارد که آنها را به نمایش سرعت رانندگی‌شان تشویق کند و سپس برخی کاربران با سرعت ۱۱۳ مایل بر ساعت رانندگی کنند و دچار تصادفی وحشتناک شوند، طبق رأی سال ۲۰۲۱ دادگاه تجدیدنظر حوزه نهم آمریکا، ماده ۲۳۰ مانع طرح دعوی درباره آن قابلیت طراحی نمی‌شود. اسنپ سرانجام این پرونده را با توافق حل‌وفصل کرد.
پس از آن پرونده، وکلا بر پایه ادعاهای مربوط به مسئولیت ناشی از محصول، بیش از ۲۰۰ شکایت علیه پلتفرم‌ها مطرح کردند. در ماه مارس، آنها به دو پیروزی حقوقی مهم دست یافتند. در یکی از این پرونده‌ها، هیئت منصفه‌ای در لس‌آنجلس متا و یوتیوب را به دلیل سهل‌انگاری در طراحی پلتفرم‌های اعتیادآور مسئول شناخت و حکم داد شش میلیون دلار به زنی ۲۰ ساله پرداخت شود. متا و گوگل استدلال کردند که این رأی با ماده ۲۳۰ و متمم اول قانون اساسی آمریکا مغایرت دارد. با این حال، قاضی درخواست آنها برای برگزاری دادگاه مجدد را رد کرد و پرونده اکنون در مرحله تجدیدنظرخواهی است.
پیروزی دوم ارتباط مستقیم‌تری با خبر شکایت از OpenAI دارد. یک روز پیش از صدور رأی لس‌آنجلس، هیئت منصفه‌ای در نیومکزیکو متا را به پرداخت ۳۷۵ میلیون دلار جریمه مدنی محکوم کرد. دلیل این حکم نقض قانون مقابله با رویه‌های غیرمنصفانه این ایالت بود؛ زیرا متا به مردم گفته بود پلتفرم‌هایش برای کودکان ایمن هستند، در حالی که به ادعای ایالت، خود شرکت می‌دانست چنین نیست. در ماه اوت، قاضی دستور پرداخت ۵۶۷ میلیون دلار دیگر را به‌عنوان اقدامات جبرانی صادر کرد و مجموع مبلغ به ۹۴۲ میلیون دلار رسید.
بنابراین شاید تعجب‌آور نباشد که هشت ایالت اکنون از همین الگو برای شکایت علیه OpenAI استفاده می‌کنند. این پرونده‌ها اساساً دعاوی مربوط به مسئولیت ناشی از محصول نیستند، بلکه بر اساس قوانین حمایت از مصرف‌کنندگان در هر ایالت مطرح شده‌اند؛ قوانینی که شرکت‌ها را از عرضه محصول خطرناک به بازار و سپس دروغ گفتن درباره آن منع می‌کنند. در نتیجه، سرنوشت شکایت دادستان‌های کل علیه OpenAI ممکن است به این بستگی داشته باشد که قضات و هیئت‌های منصفه باور کنند این شرکت درباره محصول خود حقیقت را گفته است یا نه.
ایالت‌ها علاوه بر درخواست جریمه‌های مالی، می‌خواهند OpenAI را وادار کنند تغییرات بیشتری در نحوه عملکرد چت‌جی‌پی‌تی ایجاد کند. به گزارش رویترز، آنها حتی یک گام فراتر رفته‌اند و از دادگاه‌ها خواسته‌اند OpenAI را «از توسعه مدل‌های هوش مصنوعی که قادر به بهبود خود هستند منع کنند، مگر آنکه بتواند اطمینان دهد این مدل‌ها با ارزش‌های انسانی همسو هستند».
بله، درست خواندید: ایالت‌ها از همین پرونده‌های مربوط به ایمنی کودکان استفاده می‌کنند تا جلوی «خودبهبوددهی بازگشتی» یا همان Recursive Self-Improvement را نیز بگیرند؛ فرایندی که در آن سامانه هوش مصنوعی می‌تواند توانایی‌های خود را بهبود دهد و این چرخه بهبود را تکرار کند. هرچند چنین درخواستی از آن مواردی به نظر می‌رسد که قاضی ممکن است کنار بگذارد، نکته قابل‌توجه این است که گروهی از دادستان‌های کل جمهوری‌خواه بر سر یکی از خواسته‌های اصلی جریان نگران از خطرات وجودی هوش مصنوعی به توافق رسیده‌اند. شکاف میان مقام منتخب جمهوری‌خواه معمول در ایالت‌های جمهوری‌خواه و حلقه ترامپ، زاکربرگ و ساکس، که نماینده نوعی شتاب‌گرایی فناورانه مورد حمایت ثروتمندان بانفوذ هستند، همچنان عمیق‌تر می‌شود.
OpenAI احتمالاً در دادگاه استدلال‌هایی مشابه دفاعیات متا مطرح خواهد کرد: اینکه خروجی‌های چت‌جی‌پی‌تی نوعی بیان هستند که متمم اول قانون اساسی آمریکا از آنها حمایت می‌کند؛ اینکه افرادی که پس از استفاده از این برنامه آسیب دیده‌اند، مدت‌ها پیش از نخستین استفاده از چت‌جی‌پی‌تی نیز در شرایط بحرانی قرار داشته‌اند؛ و اینکه شرکت طی یک سال گذشته تدابیر ایمنی قدرتمندی به محصول خود افزوده است. بیانیه‌ای که بالاتر نقل شد همچنین نشان می‌دهد OpenAI احتمالاً استدلال خواهد کرد که در صنعتی با بازیگران متعدد، که بسیاری از آنها استانداردهای ایمنی بسیار پایین‌تری دارند، این شرکت به‌طور خاص هدف قرار گرفته است.
با این همه، تجربه متا نشان می‌دهد OpenAI مسیر طولانی و دشواری پیش رو دارد. این شرکت اخیراً تلاش کرده است، و به نظر من این تلاش شایسته تحسین است، توجه افکار عمومی را به پیشرفت کل صنعت به سوی خودبهبوددهی بازگشتی و احساس ناآرام‌کننده ناشی از ساخت ذهنی بیگانه جلب کند. اما این ذهن بیگانه هر اندازه هم که بی‌سابقه باشد، ایالت‌ها مشتاق خواهند بود به OpenAI یادآوری کنند که ذهن بیگانه‌اش در عین حال یک محصول است؛ محصولی که می‌توان شرکت سازنده را در قبال آن مسئول شناخت.