هشت ایالت آمریکا از OpenAI شکایت کردند؛ اتهام آسیب به کودکان و فریب بزرگسالان با چت‌جی‌پی‌تی
هریسبورگ، پنسیلوانیا — دست‌کم هشت ایالت آمریکا از شرکت OpenAI، غول هوش مصنوعی، شکایت کرده‌اند. آن‌ها می‌گویند مدل چت‌بات محبوب این شرکت با آسیب‌رساندن به کودکان و فریب‌دادن بزرگسالان، قوانین ایالتی حمایت از مصرف‌کننده را نقض کرده است؛ اقدامی که دادستان‌ها آن را نتیجه تلاش بی‌پروا برای کسب سود توصیف کرده‌اند.
در متن شکایت‌ها آمده است که چت‌جی‌پی‌تی توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدگمانی و افکار پارانویید را تقویت می‌کند و به کاربران آموزش می‌دهد چگونه خودکشی کنند یا به دیگران آسیب برسانند یا آن‌ها را بکشند.
شاکیان همچنین مدعی‌اند این چت‌بات‌ها وانمود می‌کنند همراه و دلسوز هستند، اما در عمل از افراد آسیب‌پذیر و نوجوانان سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسل در حال رشد با فناوری هوش مصنوعی به شمار می‌روند.
برنا بِرد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین OpenAI را متهم کرده‌اند که زمینه فعالیت مدل‌های سرکش هوش مصنوعی را فراهم کرده است؛ مدل‌هایی که در یکی از شکایت‌ها از آن‌ها با عنوان «عامل‌های هک سایبری» یاد شده است. به گفته شاکیان، این عامل‌ها به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و دستورالعمل‌های مأموریت خود را از نو نوشته‌اند.
OpenAI که دفتر مرکزی آن در سان‌فرانسیسکو قرار دارد، در بیانیه‌ای اعلام کرد تدابیر ایمنی برای محافظت از کودکان را در چت‌جی‌پی‌تی تعبیه کرده و به بهبود مدل و تقویت این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آن‌ها را «ناهمسو» می‌نامد و تاکنون موردی نزدیک به حادثه مدل سرکشی که در ماه ژوئیه شناسایی شد، پیدا نکرده است. در آن حادثه، یک عامل هوش مصنوعی به سامانه شرکت دیگری در حوزه هوش مصنوعی نفوذ کرده بود. گزارش مربوط به حادثه ژوئیه
ایالت‌ها در شکایت‌های قضایی متحد شده‌اند
موج تازه شکایت‌ها، جدیدترین اقدام ایالت‌ها بر اساس قوانین حمایت از مصرف‌کننده است؛ قوانینی که با استناد به آن‌ها، شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و شبکه‌های اجتماعی به آسیب‌رساندن به کودکان متهم می‌شوند. آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی روز چهارشنبه شکایت‌های جداگانه‌ای را در دادگاه‌های ایالتی ثبت کردند.
متیو برگمن، بنیان‌گذار مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تاریخ» توصیف کرد.
در شکایت آریزونا آمده است که چت‌جی‌پی‌تی نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این چت‌بات در میان بگذارند و گاهی آن‌ها را از به‌اشتراک‌گذاشتن این اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرها و آسیب‌های احتمالی، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عامل‌های سرکش هوش مصنوعی، قابل پیش‌بینی بوده‌اند. با این حال، به ادعای آن‌ها، OpenAI مردم را به این باور رسانده است که چت‌جی‌پی‌تی به‌اندازه کافی از نظر ایمنی آزمایش می‌شود، در حالی که این شرکت برای کسب سود، استانداردهای ایمنی را تضعیف کرده است.
در شکایت آیداهو آمده است: «این درآمدها به بهای گزافی برای جامعه به دست آمده‌اند؛ جامعه‌ای که در نتیجه رفتار بی‌ملاحظه OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک چت‌جی‌پی‌تی، آسیب‌های جبران‌ناپذیری متحمل شده است؛ از جمله از دست دادن عزیزان، حملات سایبری نگران‌کننده و اکنون تهدیدی قابل اعتنا علیه بقای تمدن.»
ایالت‌ها در شکایت‌های خود گفته‌اند چت‌جی‌پی‌تی محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است تمام اتهام‌های مطرح‌شده در شکایت‌های مفصل ایالت‌ها به رویدادها و یافته‌های پیش از ماه اوت مربوط باشند؛ زمانی که OpenAI نسخه‌ای از چت‌جی‌پی‌تی را با هدف استفاده نوجوانان معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر حفاظتی قوی‌تری داشت. گزارش مربوط به نسخه ویژه نوجوانان
با این حال، ایالت‌ها می‌گویند هنوز مشخص نیست نسخه کنونی این چت‌بات واقعاً کم‌خطرتر شده باشد.
گروه ناظر Common Sense Media هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول چت‌جی‌پی‌تی ویژه نوجوانان، آن‌طور که باید عمل نمی‌کنند. این گروه از OpenAI خواست دسترسی به چت‌بات را به بزرگسالان محدود کند تا زمانی که بتواند محصولی ایمن برای نوجوانان عرضه کند.
شکایت‌های هماهنگ چند ایالت علیه صنعت فناوری پیش‌تر نیز نتیجه‌بخش بوده‌اند.
شرکت متا در ماه اوت موافقت کرد تدابیر حفاظتی قوی‌تری برای کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام اجرا کند. این توافق حقوقی تاریخی به ارزش ۱۸ میلیارد دلار، به رسیدگی قضایی درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و دعاوی مطرح‌شده از سوی تقریباً تمام ایالت‌ها را حل‌وفصل کرد. گزارش توافق حقوقی متا
اگرچه تدابیر ایمنی مورد توافق متا شامل کل صنعت فناوری نمی‌شد، این شرکت به‌سرعت از رقبای خود خواست اقدام‌های مشابهی انجام دهند.
OpenAI نیز درخواست مشابهی را مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها همکاری کند تا «سیاست‌های عملی و واقع‌بینانه‌ای در حوزه هوش مصنوعی پیش برده شوند که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط بر یک شرکت».
OpenAI همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا آن‌ها سیاست‌های شرکت و عملکرد چت‌جی‌پی‌تی را بررسی کنند.
به گفته OpenAI، استفاده از چت‌جی‌پی‌تی برای افراد ۱۳ سال به بالا در نظر گرفته شده است و کاربران زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست خود نیاز دارند. این شرکت می‌گوید نسخه ویژه نوجوانان به‌گونه‌ای طراحی شده است که مواجهه کاربران با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و مطالب جنسی صریح یا تصاویر آزاردهنده را کاهش دهد.
OpenAI اعلام کرده است که نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از چت‌جی‌پی‌تی استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌برند. به گفته این شرکت، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از این چت‌بات استفاده می‌کنند.
با این حال، لورا زیمرمن، مدیر تحقیقات هوش مصنوعی در حوزه جوانان در Common Sense Media، درباره ارزش و اعتبار این آمار ابراز تردید کرد.
زیمرمن گفت چت‌جی‌پی‌تی می‌تواند تکالیف دانش‌آموزان را ظرف چند ثانیه انجام دهد؛ بنابراین، حتی ۱۵ دقیقه استفاده روزانه نیز می‌تواند تأثیر قابل‌توجهی بر رشد نوجوان داشته باشد. او همچنین این پرسش را مطرح کرد که آیا OpenAI واقعاً می‌داند کدام کاربران نوجوان یا کودک هستند، زیرا آزمایش‌های سازمان او نشان داده است که چت‌جی‌پی‌تی نمی‌تواند یا نتوانسته است تشخیص دهد کاربر کودک است یا خیر.