هشت ایالت آمریکا به‌دلیل نگرانی‌های ایمنی چت‌جی‌پی‌تی از اوپن‌ای‌آی شکایت کردند؛ گام بعدی چیست؟
ایمنی هوش مصنوعی
تیم OpenTools | ۱۸ اکتبر ۲۰۲۶
هشت ایالت آمریکا پرونده‌های جداگانه‌ای در حوزه حمایت از مصرف‌کنندگان علیه اوپن‌ای‌آی تشکیل داده‌اند که به طراحی چت‌جی‌پی‌تی، ادعاهای مربوط به ایمنی آن و نحوه برخورد با کاربران کم‌سن‌وسال مربوط می‌شود. موارد مطرح‌شده در این شکایت‌ها ادعا هستند و هنوز هیچ دادگاهی درباره آن‌ها رأی نداده است. اوپن‌ای‌آی نیز می‌گوید تدابیری برای محافظت از کاربران جوان در نظر گرفته است.
هشت ایالت پرونده‌های جداگانه تشکیل داده‌اند، نه یک شکایت سراسری
به گزارش آسوشیتدپرس و دادستان کل ایالت آیووا، ایالت‌های آیووا، آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی در ۱۴ اکتبر شکایت‌های جداگانه‌ای علیه اوپن‌ای‌آی در دادگاه‌های ایالتی ثبت کردند. این شکایت‌ها با استناد به قوانین حمایت از مصرف‌کنندگان در هر ایالت، شیوه طراحی، آزمایش و بازاریابی چت‌جی‌پی‌تی را به چالش می‌کشند.
این تفاوت اهمیت دارد. شکایت، ادعاهای یک طرف و درخواست‌های او برای جبران خسارت یا اعمال محدودیت را ثبت می‌کند؛ اما به‌خودی‌خود به این معنا نیست که دادگاه تشخیص داده اوپن‌ای‌آی قانون را نقض کرده است. از آنجا که هر پرونده در دادگاهی ایالتی و بر اساس قوانین همان ایالت بررسی می‌شود، روند و نتیجه این هشت پرونده ممکن است با یکدیگر متفاوت باشد. ثبت شکایت‌ها نیز به‌خودی‌خود تغییری در شرایط استفاده از چت‌جی‌پی‌تی، دسترسی به آن یا تدابیر حفاظتی‌اش ایجاد نکرده است.
برای خانواده‌ها و کاربران عادی چت‌جی‌پی‌تی، پیامد فوری این پرونده‌ها افزایش نظارت و بررسی است، نه اعمال محدودیت تازه بر محصول. این پرونده‌ها ممکن است در نهایت بر اطلاعاتی که اوپن‌ای‌آی موظف به افشای آن‌هاست، شیوه احراز سن کاربران، نحوه استفاده از داده‌های شخصی و چگونگی بررسی مستقل آزمون‌های ایمنی تأثیر بگذارند. بااین‌حال، تحقق چنین تغییراتی مستلزم صدور حکم دادگاه یا دستیابی به توافق است.
ایالت‌ها طراحی چت‌بات‌ها و تبلیغات مربوط به ایمنی آن‌ها را مسئله‌ای در حوزه حقوق مصرف‌کننده می‌دانند
در اطلاعیه دادستان کل آریزونا آمده است که در شکایت این ایالت ادعا می‌شود لحن موافق چت‌جی‌پی‌تی و ابراز همدلی شبیه‌سازی‌شده آن می‌تواند افراد کم‌سن‌وسال را به ادامه طولانی‌تر گفت‌وگوها سوق دهد و آن‌ها را به افشای اطلاعات شخصی تشویق کند. در این شکایت همچنین ادعا شده است که اوپن‌ای‌آی خطرهای مرتبط با توصیه‌های آسیب‌زا، استفاده وسواس‌گونه و کاربران آسیب‌پذیر را به‌اندازه کافی آشکار نکرده است.
دادخواست ۹۱ صفحه‌ای آیووا نیز ادعاهای مشابهی درباره بازاریابی، آزمایش مدل‌ها و عامل‌های هوش مصنوعی مطرح می‌کند. این دادخواست از دادگاه می‌خواهد اظهارات گمراه‌کننده و موارد ادعاییِ پنهان‌کاری یا ارائه‌نکردن اطلاعات را نقض قانون مقابله با تقلب در مصرف‌کنندگان آیووا تلقی کند. در این سند ادعاهای جدی‌ای درباره خودآزاری، خشونت، راهنمایی‌های پزشکی و عامل‌های خودمختار مطرح شده است؛ بااین‌حال، این موارد همچنان در حد ادعا هستند و در دادگاه مورد رسیدگی ماهوی قرار نگرفته‌اند.
مبنای حقوقی این پرونده‌ها فراتر از این پرسش است که آیا یک پاسخ مشخص چت‌جی‌پی‌تی آسیب‌زا بوده است یا نه. ایالت‌ها استدلال می‌کنند که طراحی محصول، مشوق‌های افزایش تعامل کاربران، آزمون‌های ایمنی و اظهارات عمومی درباره ایمنی، در کنار یکدیگر بر تصمیم مصرف‌کنندگان برای استفاده از این خدمات و پرداخت هزینه آن‌ها تأثیر گذاشته‌اند.
اوپن‌ای‌آی می‌گوید تدابیر حفاظتی کنونی از کاربران کم‌سن‌وسال محافظت می‌کنند
اوپن‌ای‌آی به آسوشیتدپرس گفته است که تدابیر ایمنی ویژه کودکان را در چت‌جی‌پی‌تی گنجانده و به بهبود آن‌ها ادامه خواهد داد. این شرکت همچنین اعلام کرده است که با کارشناسان بیرونی همکاری می‌کند تا سیاست‌هایش و رفتار سامانه را بررسی کنند. به گفته اوپن‌ای‌آی، چت‌جی‌پی‌تی برای افراد ۱۳ سال به بالا در نظر گرفته شده است و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست قانونی نیاز دارند.
اوپن‌ای‌آی همچنین می‌گوید تجربه کاربری ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه آن‌ها با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و مطالب صریح یا تصویریِ آزاردهنده کاهش یابد. این شرکت توصیف ایالت‌ها از آزمایش عامل‌های هوش مصنوعی خود را نیز رد کرده و گفته است بررسی مدل‌هایی که رفتارشان با اهداف تعیین‌شده همسو نبوده، موردی مشابه حادثه توصیف‌شده در شکایت‌ها را نشان نداده است.
آسوشیتدپرس خاطرنشان می‌کند که برخی ادعاها ممکن است به رویدادها یا یافته‌هایی مربوط باشند که پیش از اجرای تدابیر حفاظتی تقویت‌شده برای نوجوانان در ماه اوت رخ داده‌اند. بااین‌حال، این زمان‌بندی به‌تنهایی تکلیف پرونده‌ها را روشن نمی‌کند: ایالت‌ها معتقدند تدابیر فعلی همچنان کافی نیستند، درحالی‌که اوپن‌ای‌آی می‌گوید محصول خود را تغییر داده است. بنابراین، شواهد مربوط به نسخه مدل، سیاست‌های اجرایی و تجربه کاربری حاکم بر هر رویداد ادعایی، نقش مهمی در رسیدگی به پرونده‌ها خواهند داشت.
آیووا خواستار حذف داده‌ها، احراز سن و نظارت مستقل است
دادخواست آیووا درخواست اعمال جریمه‌های مدنی، بازپرداخت مبالغ به مصرف‌کنندگان و محدودیت بر رفتارهای آینده را مطرح می‌کند. از جمله راهکارهای درخواستی می‌توان به حذف داده‌های ساکنان آیووا که پیش از صدور حکم به دست آمده‌اند، ایجاد سازوکارهای احراز سن، ارائه اطلاع‌رسانی شفاف و دریافت رضایت برای جمع‌آوری یا فروش اطلاعات حساس، و تأیید مستقل تدابیر حفاظتی پیش از ادامه برخی آزمایش‌های مدل‌های پیشرفته اشاره کرد.
این درخواست‌ها نشان می‌دهند که پرونده‌ها چه پیامدهایی ممکن است برای محصول داشته باشند، اما در حال حاضر الزام قانونی محسوب نمی‌شوند. قاضی می‌تواند این درخواست‌ها را رد کند، دامنه آن‌ها را محدود سازد یا تغییر دهد و اوپن‌ای‌آی نیز می‌تواند هم مسئولیت حقوقی خود و هم راهکارهای درخواستی را به چالش بکشد. همچنین، توافق میان طرفین ممکن است به شرایط متفاوتی منجر شود.
درخواست احراز سن، خود با نوعی موازنه میان منافع و هزینه‌ها همراه است. روش‌های قابل‌اعتمادتر برای بررسی سن می‌توانند به محافظت بهتر از افراد کم‌سن‌وسال کمک کنند، اما ممکن است به جمع‌آوری اطلاعات بیشتر برای شناسایی هویت یا اطمینان از سن افراد نیاز داشته باشند. هر مقررات احتمالی در آینده باید مشخص کند چه داده‌هایی جمع‌آوری می‌شوند، چه کسی آن‌ها را نگهداری می‌کند و افرادی که مدارک شناسایی متعارف ندارند چگونه می‌توانند به این خدمات دسترسی داشته باشند.
این پرونده‌ها ممکن است ادعاهای مربوط به ایمنی را به موضوعی قابل بررسی با شواهد تبدیل کنند
دادگاه‌ها ممکن است ناچار شوند میان اظهارات کلی درباره ایمنی و ادعاهای مشخصی که مصرف‌کننده متعارف بر اساس آن‌ها تصمیم گرفته است، تمایز قائل شوند. آن‌ها همچنین ممکن است بررسی کنند که آیا اوپن‌ای‌آی از خطرهای خاص اطلاع داشته، این خطرها را چگونه اندازه‌گیری کرده، چه تغییراتی میان نسخه‌های مختلف مدل ایجاد شده و آیا اطلاعاتی که در اختیار کاربران قرار داده با تحولات مربوط به ایمنی همگام بوده است یا خیر.
این روند می‌تواند اطلاعاتی فراتر از هشت ایالت در اختیار عموم قرار دهد. اسناد ثبت‌شده در دادگاه، گزارش‌های کارشناسی و مدارکی که در جریان رسیدگی مطالبه می‌شوند، ممکن است روشن کنند شرکت‌های سازنده چت‌بات‌ها چگونه آسیب‌های مرتبط با سن کاربران را آزمایش می‌کنند و بر چه اساسی تصمیم می‌گیرند مدل‌های خود را تغییر دهند. بااین‌حال، ممکن است بخشی از شواهد محرمانه باقی بماند، پرونده‌ها بدون صدور رأی درباره واقعیت ادعاها با توافق خاتمه یابند یا رسیدگی صرفاً بر عناصر محدود قوانین ایالتی متمرکز شود.
درخواست‌های جداگانه کمیسیون تجارت فدرال آمریکا از اوپن‌ای‌آی و آنتروپیک برای ارائه اطلاعات نشان می‌دهد که ایمنی چت‌بات‌ها و نحوه افشای اطلاعات درباره آن‌ها، علاوه بر نهادهای ایالتی، مورد توجه نهادهای فدرال نیز قرار گرفته است. این شکایت‌ها فشار نظارتی را افزایش می‌دهند، اما به این معنا نیست که همه نهادهای ناظر ادعاهای مطرح‌شده از سوی ایالت‌ها را تأیید می‌کنند.
کاربران و والدین باید در ادامه منتظر چه باشند؟
نخستین نشانه‌های مهم، پاسخ‌های رسمی اوپن‌ای‌آی در دادگاه، تصمیم‌ها درباره هماهنگ‌کردن روند رسیدگی به پرونده‌ها و هرگونه دستور موقت خواهند بود. تغییرات محصول را باید بر اساس مستندات به‌روز اوپن‌ای‌آی بررسی کرد، نه اینکه صرفاً از روی متن شکایت یا اظهارات در نشست‌های خبری درباره آن‌ها نتیجه‌گیری کرد. صفحه سازمان اوپن‌ای‌آی مرجع ثابتی برای اطلاعات این شرکت و مطالب مرتبط با محصولات آن است.
والدین باید همچنان از کنترل‌ها و قواعد حساب کاربری موجود استفاده کنند و در عین حال محدودیت‌های آن‌ها را در نظر داشته باشند. هشدارهای چت‌بات، محدودیت سنی یا تنظیمات والدین، تدابیر حفاظتی هستند و تضمین نمی‌کنند که تمام گفت‌وگوها بی‌خطر باشند. در شرایط فوری مرتبط با سلامت روان یا ایمنی، چت‌بات جایگزین متخصص واجد صلاحیت یا خدمات امدادی و اضطراری نیست.
مهم‌ترین پرسش این است که آیا این پرونده‌ها به تدوین استانداردهای الزام‌آور درباره احراز سن، نحوه مدیریت داده‌ها، ادعاهای ایمنی یا آزمون‌های مستقل منجر خواهند شد یا خیر. تا زمانی که دادگاهی چنین استانداردهایی را تعیین نکند یا توافقی حاصل نشود، وضعیت دقیق این است: هشت مجموعه ادعا، پاسخ اوپن‌ای‌آی و نبود هرگونه حکم اثبات‌کننده مسئولیت حقوقی این شرکت.
تصویرسازی: تیم OpenTools؛ در این تصویر از محتوای بیانیِ متعلق به اشخاص ثالث استفاده نشده است. تصویر، شکایت‌های جداگانه، وضعیت حقوقی فعلی آن‌ها و انواع راهکارهای درخواستی آیووا را خلاصه می‌کند.
منابع
- آسوشیتدپرس (apnews.com)
- دادستان کل آیووا (iowaattorneygeneral.gov)
- دادخواست منتشرشده در وب‌سایت دادستان کل آیووا (iowaattorneygeneral.gov)
- وب‌سایت دادستان کل آریزونا (azag.gov)