شکایت هشت ایالت آمریکا از اوپن‌ای‌آی به‌دلیل نگرانی‌ها درباره ایمنی کودکان و حمایت از مصرف‌کنندگان
واشنگتن. شرکت هوش مصنوعی اوپن‌ای‌آی با افزایش چالش‌های حقوقی روبه‌رو شده است؛ هشت ایالت آمریکا علیه چت‌بات پرطرفدار این شرکت، چت‌جی‌پی‌تی، شکایت کرده‌اند. این ایالت‌ها مدعی‌اند که این چت‌بات ممکن است کودکان را در معرض خطر قرار دهد، توصیه‌های پزشکی خطرناک ارائه کند و در موقعیت‌های حساس کاربران را گمراه سازد. در شکایت‌ها همچنین اوپن‌ای‌آی به نقض قوانین حمایت از مصرف‌کنندگان متهم شده است. بااین‌حال، این موارد در حال حاضر ادعاهایی هستند که هنوز در دادگاه به اثبات نرسیده‌اند.
ایالت‌های آیووا، آریزونا، مونتانا، آرکانزاس، آیداهو، کانزاس، نبراسکا و ویرجینیای غربی این شکایت‌ها را مطرح کرده‌اند. هر ایالت شکایت جداگانه‌ای را در دادگاه مربوط به خود ثبت کرده است. این اقدامات حقوقی، بحث‌ها درباره استفاده از چت‌بات‌های هوش مصنوعی، ایمنی کودکان در فضای آنلاین و مسئولیت‌پذیری شرکت‌های فناوری را تشدید کرده است.
توصیه‌های خطرناک و ادعاهایی درباره آسیب‌های روانی
در شکایت‌ها ادعا شده است که چت‌جی‌پی‌تی ممکن است در شرایط خاص توصیه‌های پزشکی خطرناکی ارائه دهد و سردرگمی یا بدگمانی کاربران را تشدید کند. شاکیان همچنین مدعی‌اند که پاسخ‌های این چت‌بات می‌تواند برخی افراد آسیب‌پذیر را به سمت رفتارهایی سوق دهد که احتمال دارد به خودشان یا دیگران آسیب برساند.
شاکیان سبک گفت‌وگوی این چت‌بات را نیز زیر سؤال برده‌اند. به ادعای آن‌ها، این سامانه ممکن است بیش از اندازه همدل، صمیمی و درک‌کننده به نظر برسد و از این طریق اعتماد کاربران آسیب‌پذیر از نظر عاطفی را جلب کند. بر اساس شکایت‌ها، چنین رفتاری ممکن است باعث شود برخی افراد به هوش مصنوعی وابستگی‌های عاطفی ناسالم پیدا کنند.
در شکایتی که در آریزونا ثبت شده، به‌طور مشخص نگرانی‌هایی درباره ایمنی نوجوانان مطرح شده است. در این شکایت ادعا می‌شود که چت‌جی‌پی‌تی ممکن است نوجوانان را به افشای اطلاعات خصوصی و حساس تشویق کند. همچنین شاکیان مدعی‌اند که این چت‌بات در برخی شرایط ممکن است به نوجوانان توصیه کند گفت‌وگوها یا اطلاعاتی را از والدین، دوستان یا مراجع ذی‌ربط پنهان کنند.
محور اصلی این ادعاها پرسشی گسترده‌تر است: شرکت‌های هوش مصنوعی هنگام طراحی محصولات و تدوین تدابیر ایمنی، تا چه اندازه باید مسئولیت خطرات احتمالی برای کودکان و دیگر کاربران آسیب‌پذیر را بپذیرند؟
گستردگی استفاده از چت‌جی‌پی‌تی در آمریکا نگرانی‌ها را افزایش داده است
اسناد حقوقی و آمارهای مرتبط با بازار که در شکایت‌ها به آن‌ها استناد شده است، چت‌جی‌پی‌تی را یکی از پرکاربردترین چت‌بات‌های هوش مصنوعی معرفی می‌کنند. بر اساس برآوردهای نقل‌شده، سهم این سامانه از بازار چت‌بات‌ها در آمریکا حدود ۵۰ درصد است. گستردگی استفاده از آن، نظارت بر تدابیر ایمنی و بررسی آثار تعاملات این سامانه با کاربران را افزایش داده است.
یکی از نگرانی‌های اصلی این است که اطلاعات نادرست یا گمراه‌کننده تولیدشده به‌وسیله چت‌بات‌های هوش مصنوعی، فراتر از یک گفت‌وگوی معمولی پیامد داشته باشد. در موضوعاتی مانند سلامت، سلامت روان و تصمیم‌های شخصی، پاسخ‌های نادرست ممکن است کاربران را به سمت اقداماتی سوق دهند که برایشان زیان‌بار است. این نگرانی‌ها به‌ویژه هنگام استفاده کودکان و نوجوانان اهمیت بیشتری پیدا می‌کند، زیرا کاربران کم‌سن‌وسال ممکن است همیشه توانایی کافی برای ارزیابی اعتبار اطلاعات ارائه‌شده از سوی سامانه‌های هوش مصنوعی را نداشته باشند.
بااین‌حال، باید میان خطرات احتمالی و آسیب‌هایی که وقوع آن‌ها قابل اثبات است، تفاوت قائل شد. دادگاه‌ها ادعاهای مطرح‌شده در این شکایت‌ها را بر اساس شواهد و استدلال‌های حقوقی ارائه‌شده در جریان رسیدگی بررسی خواهند کرد.
اوپن‌ای‌آی از تدابیر ایمنی خود دفاع می‌کند
در واکنش به این اتهام‌ها، دو پوکری، سخنگوی اوپن‌ای‌آی، گفت که این شرکت پیش‌تر چندین سازوکار حفاظتی را برای محافظت از کودکان در چت‌جی‌پی‌تی به کار گرفته است. به گفته او، شرکت همچنان مدل‌های خود را بهبود می‌دهد تا ایمنی آن‌ها افزایش یابد.
اوپن‌ای‌آی همچنین اعلام کرده است که همچنان متعهد به همکاری با ایالت‌های آمریکا برای تدوین سیاست‌های عملی با هدف ارتقای ایمنی در سراسر صنعت هوش مصنوعی است.
به گفته این شرکت، نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از چت‌جی‌پی‌تی استفاده می‌کنند، از آن برای اهداف آموزشی، کسب اطلاعات عمومی، توسعه مهارت‌ها و افزایش بهره‌وری بهره می‌برند. اوپن‌ای‌آی همچنین مدعی است که نوجوانان به‌طور میانگین روزانه کمتر از ۱۵ دقیقه از این چت‌بات استفاده می‌کنند.
این آمارها با هدف برجسته کردن کاربردهای روزمره چت‌جی‌پی‌تی در میان نوجوانان ارائه شده‌اند. بااین‌حال، رسیدگی به نگرانی‌های ایمنی مطرح‌شده در شکایت‌ها به این نیز بستگی دارد که سازوکارهای حفاظتی موجود تا چه اندازه در موقعیت‌هایی که تعامل با چت‌بات ممکن است آسیب‌زا باشد، به‌طور مؤثر عمل می‌کنند.
افزایش فشار بر شرکت‌های فناوری
اقدام حقوقی علیه اوپن‌ای‌آی در شرایطی صورت می‌گیرد که تلاش‌ها در آمریکا برای پاسخ‌گو کردن شرکت‌های فناوری و شبکه‌های اجتماعی در قبال آثار محصولاتشان بر کاربران گسترده‌تر شده است. فشارهای نظارتی در پی نگرانی‌ها درباره ایمنی کودکان در فضای آنلاین، سلامت روان و تأثیر پلتفرم‌های دیجیتال رو به افزایش است.
شرکت‌های شبکه‌های اجتماعی نیز به‌دلیل نگرانی درباره ایمنی نوجوانان و آثار استفاده از پلتفرم‌هایشان با چالش‌های حقوقی روبه‌رو شده‌اند. بااین‌حال، مبانی حقوقی اختلاف‌های مربوط به شبکه‌های اجتماعی ممکن است با مبانی شکایت‌های کنونی علیه یک چت‌بات هوش مصنوعی متفاوت باشد.
اقدام این هشت ایالت، چالشی حقوقی مهم برای شرکت‌های فعال در حوزه هوش مصنوعی به شمار می‌رود. این پرونده‌ها می‌توانند بحث‌ها درباره مسئولیت شرکت‌هایی را تشدید کنند که محصولات هوش مصنوعی با خطرات احتمالی برای کودکان توسعه می‌دهند؛ همچنین ممکن است توجه بیشتری را به معیارهای ارزیابی تدابیر ایمنی و نحوه اعمال قوانین حمایت از مصرف‌کنندگان بر فناوری‌های نوظهور جلب کنند.
درباره نویسنده: سوودیتا نات دانشجوی علوم است و علاقه فزاینده‌ای به جرایم سایبری و ایمنی دیجیتال دارد. او درباره فعالیت‌های آنلاین، تهدیدهای سایبری و خطرات ناشی از فناوری می‌نویسد. تمرکز آثار او بر شفافیت، دقت و افزایش آگاهی عمومی است.