هشت ایالت از اوپن‌ای‌آی شکایت کردند؛ چت‌بات این شرکت به آسیب‌رساندن به کودکان و فریب بزرگسالان متهم شد
هشت ایالت از اوپن‌ای‌آی شکایت کردند؛ چت‌بات این شرکت به آسیب‌رساندن به کودکان و فریب بزرگسالان متهم شد
هشت ایالت آمریکا می‌گویند چت‌بات محبوب این شرکت قوانین حمایت از مصرف‌کننده را نقض کرده است.
نویسنده: مارک لوی، آسوشیتدپرس
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) — دست‌کم هشت ایالت آمریکا از شرکت بزرگ هوش مصنوعی اوپن‌ای‌آی شکایت کرده‌اند. آن‌ها می‌گویند مدل چت‌بات محبوب این شرکت قوانین ایالتی حمایت از مصرف‌کننده را نقض کرده و به کودکان آسیب رسانده و بزرگسالان را فریب داده است؛ اقدامی که به گفته دادستان‌ها، نشان‌دهنده پیگیری بی‌ملاحظه سود است. شکایت‌های مشابه از شرکت‌های فناوری نیز در جریان است.
در متن شکایت‌ها آمده است که چت‌جی‌پی‌تی توصیه‌های پزشکی خطرناک ارائه می‌دهد، افکار بدبینانه و بدگمانی را تشدید می‌کند و به افراد برای خودکشی یا آسیب‌رساندن و حتی کشتن دیگران راهنمایی می‌دهد.
شکایت‌ها همچنین مدعی‌اند که چت‌بات‌ها وانمود می‌کنند رفتاری دوستانه و دلسوزانه دارند، اما در عمل از آسیب‌پذیری کاربران، به‌ویژه نوجوانان، سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسلی هستند که با هوش مصنوعی بزرگ می‌شوند.
دادستان کل آیداهو، برنا برد، در بیانیه‌ای گفت: «اوپن‌ای‌آی به کودکان آسیب می‌زند و به والدین دروغ می‌گوید.»
ایالت‌ها همچنین اوپن‌ای‌آی را متهم کرده‌اند که به مدل‌های هوش مصنوعی غیرقابل‌کنترل، یا به تعبیر یکی از شکایت‌ها «عاملان هک سایبری»، اجازه داده است به شرکت‌های دیگر نفوذ کنند، از کاربران انسانی سوءاستفاده کنند و دستورالعمل‌های مأموریت تازه‌ای برای خود بنویسند.
اوپن‌ای‌آی، مستقر در سان‌فرانسیسکو، در بیانیه‌ای اعلام کرد که برای محافظت از کودکان، تدابیر ایمنی را در چت‌جی‌پی‌تی تعبیه کرده و به بهبود این مدل ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مواردی است که آن‌ها را «مدل‌های ناهماهنگ» می‌نامد و در بررسی یک رویداد غیرعادی که در ماه ژوئیه کشف شد، هیچ موردی مشابه زمانی که یک عامل هوش مصنوعی به شرکت هوش مصنوعی دیگری نفوذ کرده باشد، نیافته است.
ایالت‌ها در کنار یکدیگر شکایت می‌کنند
موج تازه شکایت‌ها، جدیدترین اقدام ایالت‌ها بر اساس قوانین حمایت از مصرف‌کننده است. آن‌ها شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی را به آسیب‌رساندن به کودکان متهم می‌کنند. شکایت‌هایی که روز چهارشنبه در دادگاه‌های ایالتی ثبت شدند، مربوط به آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا، نوادا و ویرجینیای غربی هستند.
مت برگان، بنیان‌گذار مرکز حقوقی حمایت از قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی تا امروز» توصیف کرد.
آریزونا در شکایت خود اعلام کرده است که چت‌جی‌پی‌تی نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این سامانه در میان بگذارند و گاهی آن‌ها را از گفتن این اطلاعات به والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرات و آسیب‌های ناشی از عملکرد عامل‌های هوش مصنوعی غیرقابل‌کنترل، هم برای نوجوانان و هم برای عموم مردم، قابل پیش‌بینی بوده است. به ادعای آن‌ها، اوپن‌ای‌آی مردم را به این باور رسانده که چت‌جی‌پی‌تی آزمایش‌های ایمنی کافی را پشت سر گذاشته، در حالی که این شرکت در مسیر کسب سود، ایمنی را در اولویت قرار نداده است.
در شکایت آیداهو آمده است: «این درآمدها به بهای سنگینی برای جامعه به دست آمده‌اند؛ جامعه‌ای که متحمل آسیب‌های جبران‌ناپذیری شده است، از جمله از دست دادن عزیزان، حملات سایبری هولناک و اکنون تهدیدی باورپذیر علیه فروپاشی تمدن، که ناشی از رفتار بی‌ملاحظه اوپن‌ای‌آی و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک چت‌جی‌پی‌تی است.»
ایالت‌ها در شکایت‌های خود اعلام کرده‌اند که چت‌جی‌پی‌تی محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از سهم بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است همه ادعاهای مطرح‌شده در شکایت‌های مفصل ایالت‌ها پیش از ماه اوت به رویدادها و یافته‌های مشخصی منتهی شوند؛ زمانی که اوپن‌ای‌آی نسخه‌ای از چت‌جی‌پی‌تی ویژه نوجوانان را معرفی کرد که برای محافظت بیشتر از کاربران در موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر ایمنی سخت‌گیرانه‌تری داشت.
با این حال، ایالت‌ها می‌گویند روشن نیست که نسخه فعلی این چت‌بات تا چه اندازه کم‌خطرتر شده است.
گروه ناظر «کامن سنس مدیا» هفته گذشته اعلام کرد برخی از تدابیر حفاظتی اوپن‌ای‌آی در محصول چت‌جی‌پی‌تی ویژه نوجوانان آن‌طور که انتظار می‌رفت عمل نمی‌کنند و از این شرکت خواست دسترسی به چت‌بات را برای بزرگسالان محدود کند تا زمانی که بتواند محصولی ایمن برای نوجوانان ارائه دهد.
در سال‌های اخیر، شکایت‌های هماهنگ چند ایالت علیه صنعت فناوری افزایش یافته است. در ماه اوت، شرکت متا پذیرفت در چارچوب توافقی حقوقی به ارزش ۱.۴ میلیارد دلار، تدابیر محافظتی قوی‌تری برای کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام اجرا کند. این توافق به پایان یک محاکمه درباره شبکه‌های اجتماعی و حل‌وفصل ادعاهایی انجامید که تقریباً در همه ایالت‌ها مطرح شده بودند.
هرچند تدابیری که متا پذیرفت اجرا کند در سراسر صنعت به‌طور یکسان اعمال نشد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را در پیش بگیرند.
اوپن‌ای‌آی نیز موضع مشابهی اتخاذ کرده است. درو هاسر، سخنگوی این شرکت، گفت اوپن‌ای‌آی متعهد است با ایالت‌ها همکاری کند تا «سیاست‌های عملی هوش مصنوعی را پیش ببرد که در سراسر صنعت هوش مصنوعی قابل اجرا باشند، نه فقط در یک شرکت».
اوپن‌ای‌آی همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا سیاست‌هایش و رفتار چت‌جی‌پی‌تی را بررسی کنند.
به گفته اوپن‌ای‌آی، چت‌جی‌پی‌تی برای کاربران ۱۳ سال به بالا طراحی شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والدین یا سرپرست نیاز دارند. این شرکت می‌گوید نسخه ویژه نوجوانان به‌گونه‌ای طراحی شده که مواجهه کاربران با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا تصاویر گرافیکی را کاهش دهد.
اوپن‌ای‌آی اعلام کرده است که نزدیک به ۹ نفر از هر ۱۰ نوجوان ۱۳ تا ۱۸ ساله از چت‌جی‌پی‌تی برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا انجام کارهای مفید استفاده می‌کنند. به گفته این شرکت، نوجوانان به‌طور متوسط کمتر از یک ساعت در روز با چت‌جی‌پی‌تی وقت می‌گذرانند.
با این حال، لورا زیمرمن، مدیر پژوهش‌های جوانان در کامن سنس مدیا، درباره ارزش این آمار ابراز تردید کرد.
او گفت: «برای مثال، چت‌جی‌پی‌تی می‌تواند تکلیف دانش‌آموز را در چند ثانیه انجام دهد؛ بنابراین حتی ۱۵ دقیقه هم می‌تواند تأثیر زیادی بر رشد یک نوجوان داشته باشد.»
زیمرمن همچنین این پرسش را مطرح کرد که آیا اوپن‌ای‌آی می‌داند کدام کاربران نوجوان یا کودک هستند؛ به‌ویژه با توجه به اینکه آزمایش‌های سازمان او نشان داده‌اند چت‌جی‌پی‌تی نتوانسته است در برخی موارد تشخیص دهد کاربر کودک است یا خیر.
این گزارش برای اصلاح املای نام لورا زیمرمن، مدیر پژوهش‌های جوانان در کامن سنس مدیا، به‌روزرسانی شده است.
مارک لوی را در ایکس دنبال کنید.