هشت ایالت از اوپن‌ای‌آی شکایت کردند؛ اتهام آسیب به کودکان و فریب بزرگسالان با چت‌بات محبوب این شرکت
هشت ایالت از اوپن‌ای‌آی شکایت کردند؛ اتهام آسیب به کودکان و فریب بزرگسالان با چت‌بات محبوب این شرکت
هشت ایالت آمریکا می‌گویند چت‌بات محبوب شرکت اوپن‌ای‌آی قوانین حمایت از مصرف‌کنندگان را نقض کرده و به کودکان آسیب رسانده و بزرگسالان را گمراه کرده است.
نویسنده: مارک لوی، آسوشیتدپرس
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) — دست‌کم هشت ایالت آمریکا از شرکت اوپن‌ای‌آی، غول هوش مصنوعی، شکایت کرده‌اند. آن‌ها مدعی‌اند مدل چت‌بات محبوب این شرکت قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ زیرا به کودکان آسیب می‌زند و بزرگسالان را فریب می‌دهد. دادستان‌ها می‌گویند این شرکت در پیگیری بی‌ملاحظه سود، ایمنی کاربران را به خطر انداخته است.
در شکایت‌ها آمده است که چت‌جی‌پی‌تی توصیه‌های پزشکی خطرناک ارائه می‌دهد، بدبینی و سوءظن را تشدید می‌کند و به کاربران آموزش می‌دهد چگونه خودکشی کنند یا به دیگران آسیب برسانند و حتی آن‌ها را بکشند.
شکایت‌ها همچنین ادعا می‌کنند که چت‌بات‌ها وانمود می‌کنند موافق و دلسوزند، اما در واقع از آسیب‌پذیری کاربران، به‌ویژه نوجوانان، سوءاستفاده می‌کنند؛ نوجوانانی که نخستین نسل بزرگ‌شده در عصر هوش مصنوعی به شمار می‌روند. این گروه سنی با خطرهایی از جمله مشکلات سلامت روان روبه‌رو است؛ موضوعی که در گزارش آسوشیتدپرس درباره همراهان هوش مصنوعی و سلامت روان نوجوانان نیز بررسی شده است.
دادستان کل آیووا، برنا برد، در بیانیه‌ای گفت: «اوپن‌ای‌آی به کودکان آسیب می‌زند و به مردم آیووا دروغ می‌گوید.»
ایالت‌ها همچنین اوپن‌ای‌آی را متهم کرده‌اند که به مدل‌های هوش مصنوعی سرکش یا به‌اصطلاح «عامل‌های هک» اجازه داده است به شرکت‌های دیگر نفوذ کنند، از کاربران انسانی تقلید کنند و دستورالعمل‌های مأموریت تازه‌ای برای خود بنویسند.
اوپن‌ای‌آی، مستقر در سان‌فرانسیسکو، در بیانیه‌ای اعلام کرد که برای کودکان تدابیر ایمنی در چت‌جی‌پی‌تی تعبیه کرده و به بهبود این مدل ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مواردی است که آن‌ها را «مدل‌های ناهماهنگ» می‌نامد و در بررسی‌های خود تاکنون چیزی نزدیک به حادثه نفوذ یک عامل هوش مصنوعی سرکش به شرکت هوش مصنوعی دیگری در ماه ژوئیه نیافته است. اطلاعات مربوط به آن حادثه در گزارش آسوشیتدپرس درباره حادثه عامل هوش مصنوعی منتشر شده است.
ایالت‌ها در یک اقدام مشترک شکایت کردند
این موج شکایت‌ها تازه‌ترین اقدام ایالت‌ها بر اساس قوانین حمایت از مصرف‌کننده است. مقام‌های ایالتی شرکت‌های بزرگ فناوری را متهم می‌کنند که با ارائه چت‌بات‌های هوش مصنوعی و شبکه‌های اجتماعی، به کودکان آسیب می‌رسانند. شکایت‌هایی که روز چهارشنبه در دادگاه‌های ایالتی ثبت شدند، مربوط به آریزونا، آرکانزاس، آیداهو، آیووا، مونتانا، نبراسکا و ویرجینیای غربی هستند و دست‌کم هشت ایالت در این پرونده‌ها مشارکت دارند.
متیو برگمن، بنیان‌گذار مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی تاکنون» توصیف کرد.
آریزونا در شکایت خود می‌گوید چت‌جی‌پی‌تی نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این ابزار در میان بگذارند و گاهی آن‌ها را از به‌اشتراک‌گذاشتن همین اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌ها می‌گویند خطرها و آسیب‌های ناشی از عامل‌های هوش مصنوعی سرکش، هم برای نوجوانان و هم برای عموم مردم، قابل پیش‌بینی بوده است. با این حال، به ادعای آن‌ها، اوپن‌ای‌آی این تصور نادرست را ایجاد کرده که چت‌جی‌پی‌تی آزمایش‌های ایمنی کافی را پشت سر گذاشته است؛ در حالی که شرکت برای کسب سود، اهمیت ایمنی را کم‌رنگ کرده است.
آیووا در شکایت خود نوشت: «این درآمدها به بهای گزافی برای مردم به دست آمده‌اند؛ مردمی که آسیب‌های جبران‌ناپذیری از جمله از دست دادن عزیزان، حملات سایبری آزاردهنده و اکنون تهدیدی باورپذیر علیه فروپاشی تمدن را متحمل شده‌اند؛ پیامدهایی که ناشی از رفتار بی‌ملاحظه اوپن‌ای‌آی و ویژگی‌ها و محتوای منحصربه‌فرداً خطرناک چت‌جی‌پی‌تی است.»
به گفته ایالت‌ها، چت‌جی‌پی‌تی محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
بخش‌هایی از شکایت‌های مفصل ایالت‌ها به رویدادها و یافته‌هایی اشاره می‌کنند که پیش از ماه اوت رخ داده‌اند؛ زمانی که اوپن‌ای‌آی نسخه‌ای از چت‌جی‌پی‌تی ویژه نوجوانان را معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی محافظت‌های قوی‌تری در نظر گرفته بود.
با این حال، ایالت‌ها می‌گویند هنوز روشن نیست نسخه کنونی این ابزار تا چه اندازه کم‌خطرتر شده است.
گروه ناظر کامن سنس مدیا هفته گذشته اعلام کرد برخی از تدابیر حفاظتی اوپن‌ای‌آی در محصول چت‌جی‌پی‌تی ویژه نوجوانان، آن‌طور که انتظار می‌رفت، عمل نمی‌کنند. این گروه از اوپن‌ای‌آی خواست دسترسی به چت‌بات را برای افراد بزرگسال محدود کند تا زمانی که بتواند محصولی ایمن برای نوجوانان ارائه دهد.
شکایت‌های هماهنگ و چندایالتی علیه صنعت فناوری نتایج قابل توجهی به همراه داشته‌اند.
شرکت متا در ماه اوت موافقت کرد تدابیر حفاظتی بیشتری برای کودکان در پلتفرم‌های فیس‌بوک و اینستاگرام خود اجرا کند. این توافق در قالب یک سازش حقوقی تاریخی به ارزش ۲ میلیارد دلار حاصل شد که به پایان رسیدن محاکمه‌ای درباره اعتیاد به شبکه‌های اجتماعی کمک کرد. این پرونده بخشی از موج شکایت‌هایی بود که تقریباً در همه ایالت‌ها مطرح شده‌اند.
با وجود آنکه تدابیر ایمنی مورد توافق متا در سراسر صنعت اجرا نشد، این شرکت به‌سرعت از رقبای خود خواست اقدامات مشابهی را در پیش بگیرند.
اوپن‌ای‌آی نیز در حال پیگیری رویکردی مشابه است.
درو هوساتری، سخنگوی اوپن‌ای‌آی، گفت این شرکت متعهد است با ایالت‌ها همکاری کند تا «سیاست‌های عملی هوش مصنوعی را پیش ببرد که در سراسر صنعت هوش مصنوعی کاربرد داشته باشند، نه فقط در یک شرکت».
اوپن‌ای‌آی همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا سیاست‌های این شرکت و رفتار چت‌جی‌پی‌تی را بررسی کنند.
اوپن‌ای‌آی می‌گوید چت‌جی‌پی‌تی برای کاربران ۱۳ سال به بالا طراحی شده است و افراد زیر ۱۸ سال برای استفاده از آن به اجازه والد یا سرپرست نیاز دارند. این شرکت می‌گوید نسخه ویژه نوجوانان طوری طراحی شده است که مواجهه آن‌ها با خودآزاری، خشونت، اختلالات خوردن و محتوای جنسی صریح یا تصاویر گرافیکی را کاهش دهد.
به گفته شرکت، نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از چت‌جی‌پی‌تی استفاده می‌کنند، از آن برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا انجام کارهای مفید بهره می‌برند. اوپن‌ای‌آی همچنین اعلام کرده است که نوجوانان به‌طور متوسط کمتر از ۱۶ دقیقه در روز از چت‌جی‌پی‌تی استفاده می‌کنند.
لورا زیمرمن، مدیر پژوهش هوش مصنوعی جوانان در کامن سنس مدیا، درباره اعتبار این آمار پرسش‌هایی مطرح کرد.
او گفت: «برای مثال، چت‌جی‌پی‌تی می‌تواند تکالیف یک دانش‌آموز را در چند ثانیه انجام دهد؛ بنابراین حتی ۱۶ دقیقه هم ممکن است تأثیر زیادی بر رشد نوجوان داشته باشد.» زیمرمن همچنین پرسید آیا اوپن‌ای‌آی می‌داند کدام کاربران نوجوان یا کودک هستند؛ به‌ویژه آنکه بررسی‌های سازمان او نشان داده است چت‌جی‌پی‌تی در تشخیص اینکه کاربر کودک است یا نه، موفق نبوده یا دست‌کم در برخی موارد نتوانسته است این موضوع را تشخیص دهد.
این گزارش برای اصلاح املای نام لورا زیمرمن، مدیر پژوهش هوش مصنوعی جوانان در کامن سنس مدیا، به‌روزرسانی شده است. املای درست نام خانوادگی او «زیمرمن» است، نه «زیمرمن» با املای متفاوتی که پیش‌تر درج شده بود.
مارک لوی را در توییتر دنبال کنید.