شکایت هشت ایالت آمریکا از اوپن‌ای‌آی؛ اتهام آسیب به کودکان و فریب بزرگسالان با چت‌جی‌پی‌تی
هریسبورگ، پنسیلوانیا — دست‌کم هشت ایالت آمریکا از شرکت اوپن‌ای‌آی، غول هوش مصنوعی، شکایت کرده‌اند. آن‌ها می‌گویند مدل گفت‌وگومحور محبوب این شرکت، چت‌جی‌پی‌تی، با آسیب رساندن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کنندگان در ایالت‌ها را نقض کرده است؛ اقدامی که دادستان‌ها آن را نتیجه تلاش بی‌ملاحظه شرکت برای کسب سود توصیف کرده‌اند.
در متن شکایت‌ها آمده است که چت‌جی‌پی‌تی توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدبینی و سوءظن را تشدید می‌کند و به افراد آموزش می‌دهد چگونه خودکشی کنند یا به دیگران آسیب برسانند و حتی آن‌ها را بکشند.
شاکیان همچنین مدعی‌اند که این چت‌بات‌ها با تظاهر به همراهی و همدلی، از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسل در حال رشد در کنار فناوری هوش مصنوعی به شمار می‌روند.
برنا بِرد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «اوپن‌ای‌آی به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین اوپن‌ای‌آی را متهم کرده‌اند که زمینه فعالیت مدل‌های سرکش هوش مصنوعی را فراهم کرده است؛ مدل‌هایی که در یکی از شکایت‌ها از آن‌ها با عنوان «عامل‌های نفوذ سایبری» یاد شده است. به گفته شاکیان، این عامل‌ها به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و دستورالعمل‌های مأموریت خود را از نو نوشته‌اند.
اوپن‌ای‌آی که دفتر مرکزی آن در سان‌فرانسیسکو قرار دارد، در بیانیه‌ای اعلام کرد که تدابیر حفاظتی برای کودکان را در چت‌جی‌پی‌تی گنجانده و به بهبود این مدل و تقویت این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آن‌ها را «ناهمسو» می‌نامد و تاکنون موردی نزدیک به حادثه نفوذ عامل هوش مصنوعی به شرکت دیگری در ماه ژوئیه پیدا نکرده است.
همکاری ایالت‌ها در طرح شکایت‌ها
موج تازه شکایت‌ها در ادامه اقدام‌های ایالت‌ها بر اساس قوانین حمایت از مصرف‌کنندگان صورت می‌گیرد؛ اقدام‌هایی که در آن‌ها شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و شبکه‌های اجتماعی به آسیب رساندن به کودکان متهم شده‌اند. ایالت‌های آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند.
متیو برگمن، وکیل مؤسس مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تاریخ» توصیف کرد.
آریزونا در شکایت خود اعلام کرده است که چت‌جی‌پی‌تی نوجوانان را به در میان گذاشتن اطلاعات شخصی با این ابزار تشویق می‌کند و گاهی آن‌ها را از به‌اشتراک‌گذاشتن همین اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
به گفته ایالت‌های شاکی، خطرها و آسیب‌های احتمالی، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عامل‌های سرکش هوش مصنوعی، قابل پیش‌بینی بوده است. با این حال، آن‌ها مدعی‌اند اوپن‌ای‌آی مردم را به این تصور انداخته که چت‌جی‌پی‌تی آزمایش‌های ایمنی کافی را پشت سر می‌گذارد، در حالی که شرکت برای کسب سود، استانداردهای ایمنی را تضعیف کرده است.
آیداهو در شکایت خود نوشت: «این درآمدها به بهای سنگینی برای جامعه به دست آمده‌اند؛ جامعه‌ای که در نتیجه رفتار بی‌ملاحظه اوپن‌ای‌آی و ویژگی‌ها و محتوای به‌طور منحصربه‌فرد خطرناک چت‌جی‌پی‌تی، آسیب‌های جبران‌ناپذیری متحمل شده است؛ از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی محتمل برای فروپاشی تمدن.»
ایالت‌ها در شکایت‌های خود اعلام کرده‌اند که چت‌جی‌پی‌تی محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است تمام اتهام‌های مطرح‌شده در شکایت‌های مفصل ایالت‌ها به رویدادها و یافته‌های پیش از ماه اوت مربوط باشند؛ زمانی که اوپن‌ای‌آی نسخه‌ای از چت‌جی‌پی‌تی را ویژه نوجوانان معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری در نظر گرفته بود.
با این حال، ایالت‌ها می‌گویند هنوز مشخص نیست نسخه فعلی این ابزار واقعاً خطر کمتری داشته باشد.
گروه ناظر «کامِن سنس مدیا» هفته گذشته اعلام کرد که برخی از تدابیر حفاظتی اوپن‌ای‌آی در محصول «چت‌جی‌پی‌تی برای نوجوانان» آن‌طور که باید عمل نمی‌کنند. این گروه از اوپن‌ای‌آی خواست دسترسی به چت‌بات را تا زمانی که بتواند محصولی ایمن برای نوجوانان ارائه دهد، به بزرگسالان محدود کند.
شکایت‌های هماهنگ چند ایالت علیه صنعت فناوری پیش‌تر نیز به نتایجی منجر شده‌اند.
شرکت متا در ماه اوت موافقت کرد تدابیر ایمنی مربوط به کودکان را در پلتفرم‌های فیس‌بوک و اینستاگرام تقویت کند. این توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار، به پرونده قضایی درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و ادعاهای مطرح‌شده از سوی تقریباً تمام ایالت‌های آمریکا را نیز حل‌وفصل کرد.
هرچند تدابیر ایمنی مورد توافق متا به کل صنعت فناوری تعمیم نیافت، این شرکت به‌سرعت از رقبای خود خواست اقدام‌های مشابهی انجام دهند.
اوپن‌ای‌آی نیز درخواست مشابهی را مطرح کرده است.
درو پوساتری، سخنگوی اوپن‌ای‌آی، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی در حوزه هوش مصنوعی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط یک شرکت» همکاری کند.
اوپن‌ای‌آی همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا سیاست‌های شرکت و رفتار چت‌جی‌پی‌تی را بررسی کنند.
اوپن‌ای‌آی می‌گوید استفاده از چت‌جی‌پی‌تی برای افراد ۱۳ ساله و بالاتر در نظر گرفته شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست خود نیاز دارند. این شرکت همچنین اعلام کرده نسخه ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه کاربران را با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا تصاویر و مطالب خشن و آزاردهنده کاهش دهد.
به گفته اوپن‌ای‌آی، نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از چت‌جی‌پی‌تی استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌برند. این شرکت می‌گوید نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز با چت‌جی‌پی‌تی وقت می‌گذرانند.
با این حال، لورا زیمرمن، مدیر پژوهش هوش مصنوعی و جوانان در کامن سنس مدیا، درباره ارزش و اعتبار این آمار ابراز تردید کرد.
زیمرمن گفت چت‌جی‌پی‌تی می‌تواند تکالیف دانش‌آموزان را ظرف چند ثانیه انجام دهد؛ بنابراین، حتی ۱۵ دقیقه استفاده روزانه نیز ممکن است تأثیر قابل‌توجهی بر رشد نوجوانان داشته باشد. او همچنین این پرسش را مطرح کرد که آیا اوپن‌ای‌آی واقعاً می‌داند کدام کاربران نوجوان یا کودک هستند یا نه؛ زیرا آزمایش‌های سازمان او نشان داده است که چت‌جی‌پی‌تی نمی‌تواند یا موفق نمی‌شود تشخیص دهد کاربر کودک است.