دادستانی کل کلرادو در پی حمایت از حقوق مصرف‌کنندگان پس از ورشکستگی استارتاپ هوش مصنوعی
نویسنده: ماریسا ونترلی
تاریخ انتشار: ۱۵ اکتبر ۲۰۲۶، ساعت ۱۵:۳۷
فیل وایزر، دادستان کل ایالت کلرادو، رهبری ائتلافی از دادستان‌های کل ایالت‌های آمریکا را بر عهده گرفته است که در جریان رسیدگی به پرونده ورشکستگی یک شرکت سازنده چت‌بات‌های هوش مصنوعی، اطلاعیه‌ای رسمی به دادگاه ارائه کرده‌اند. به اعتقاد این دادستان‌ها، فعالیت این شرکت تهدیدهای جدی برای مصرف‌کنندگان به همراه دارد.
استارتاپ چت‌بات‌ساز Character.ai اوایل هفته جاری درخواست ورشکستگی بر اساس فصل ۱۱ قانون ورشکستگی آمریکا را ثبت کرد. این پلتفرم که در سال ۲۰۲۱ راه‌اندازی شد، به کاربران امکان می‌داد با شخصیت‌های قابل شخصی‌سازی گفت‌وگو کنند.
این شرکت در مطلبی در وبلاگ خود اعلام کرد که با وجود «چالش‌های جدی حقوقی، نظارتی و عملیاتی»، اقداماتی «مؤثر و معنادار» برای بهبود وضعیت خود انجام داده است.
در این مطلب آمده است: «پس از بررسی جامع گزینه‌های پیش رو، هیئت‌مدیره ما به این نتیجه رسید که فرایند فروش تحت نظارت دادگاه، بهترین فرصت را برای به حداکثر رساندن ارزش دارایی‌ها به نفع همه ذی‌نفعان فراهم می‌کند.» به گزارش شبکه سی‌ان‌بی‌سی، Character.ai پیش از ثبت درخواست ورشکستگی، با شرکت دیزنی به توافق رسیده بود تا این شرکت به‌عنوان پیشنهاددهنده اولیه در فرایند فروش تحت نظارت دادگاه، برای دریافت مجوز استفاده از بخشی از مالکیت فکری Character.ai پیشنهاد ارائه کند. چنین پیشنهادی مبنایی برای ارزیابی پیشنهادهای احتمالی دیگر در فرایند فروش خواهد بود.
Character.ai طی چند سال گذشته درگیر پرونده‌های حقوقی متعددی بوده است. از جمله این پرونده‌ها، تحقیقاتی است که چندین ایالت آمریکا، از جمله کلرادو، پس از طرح شکایتی در سال ۲۰۲۴ درباره مرگ یک نوجوان آغاز کردند. در آن شکایت ادعا شده بود که چت‌بات‌های این شرکت افکار خودکشی یک پسر ۱۴ ساله در فلوریدا را تشدید کرده‌اند. تحقیقات ایالت‌ها نیز چندین مورد احتمالی نقض قوانین حمایت از مصرف‌کنندگان و حریم خصوصی را شناسایی کرد.
وایزر که نامزد حزب دموکرات در انتخابات فرمانداری کلرادو نیز هست، گفت: «ورشکستگی نباید به راهی تبدیل شود که یک شرکت بتواند از مسئولیت خود در قبال حفاظت از کودکان و مصرف‌کنندگان شانه خالی کند.»
او افزود: «چت‌بات‌های Character.ai نگرانی‌های جدی درباره امنیت کودکان ایجاد کرده‌اند؛ از جمله قرار گرفتن در معرض محتوای جنسی، دریافت توصیه‌های خطرناک و تشویق به آسیب رساندن به خود. ما با دادستان‌های کل سراسر کشور همکاری می‌کنیم تا اطمینان یابیم این نگرانی‌ها برطرف می‌شوند و صرف‌نظر از اینکه در نهایت مالکیت شرکت به چه کسی می‌رسد، حقوق مصرف‌کنندگان محفوظ خواهد ماند.»
دادستان‌ها در سند ارائه‌شده به دادگاه، درباره حجم قابل‌توجه اطلاعات حساس مصرف‌کنندگان که Character.ai جمع‌آوری کرده است، ابراز نگرانی کرده‌اند. آنان همچنین مجموعه‌ای از تدابیر مشخص برای حفاظت از حریم خصوصی و امنیت کاربران پیشنهاد داده‌اند که معتقدند باید در هرگونه فروش یا انتقال کسب‌وکار یا دارایی‌های این شرکت مورد توجه قرار گیرد.
مجلس قانون‌گذاری ایالت کلرادو در آخرین دوره قانون‌گذاری خود، لایحه شماره ۱۲۶۳ مجلس نمایندگان را تصویب کرد که مقرراتی برای شرکت‌های ارائه‌دهنده چت‌بات‌های هوش مصنوعی تعیین می‌کند. از جمله این مقررات، الزام توسعه‌دهندگان به آگاه‌سازی کاربران زیر سن قانونی است تا بدانند در حال گفت‌وگو با یک چت‌بات هستند، نه یک انسان واقعی.
این قانون همچنین اپراتورهای سامانه‌های هوش مصنوعی را از اعطای امتیاز یا پاداش به افراد زیر سن قانونی با هدف تشویق آنان به تعامل بیشتر با خدمات خود منع می‌کند. افزون بر این، شرکت‌ها موظف‌اند «تدابیر معقولی» برای جلوگیری از تولید محتوای جنسی صریح یا اظهاراتی که «وابستگی عاطفی را شبیه‌سازی می‌کنند» از سوی چت‌بات‌ها اتخاذ کنند.
شان کاماچو، نماینده دموکرات شهر دنور که از ارائه‌دهندگان این لایحه بود، گفت: «واقعیت تأسف‌بار این است که چت‌بات‌های هوش مصنوعی افراد را به اقدام به خودکشی تشویق کرده‌اند و وارد تعاملات عاشقانه با افراد زیر سن قانونی شده‌اند.»
او ادامه داد: «قانون جدید ما از کاربران، به‌ویژه کودکان، در برابر گفت‌وگوهای گمراه‌کننده با چت‌بات‌های هوش مصنوعی محافظت می‌کند. به‌عنوان یک پدر یا مادر، نگران‌کننده است که بدانیم چت‌بات‌های هوش مصنوعیِ بدون نظارت می‌توانند کودکان را در معرض خطر قرار دهند؛ به‌خصوص زمانی که کودک نشانه‌هایی از افسردگی یا افکار خودکشی دارد.»
نسخه‌ای از سند رسمی ارائه‌شده از سوی ایالت‌ها به دادگاه در دسترس است.