شکایت هشت ایالت آمریکا از اوپن‌ای‌آی به‌دلیل خطرات احتمالی چت‌جی‌پی‌تی برای کودکان
نگرانی‌های ایمنی چت‌جی‌پی‌تی به شکایت از اوپن‌ای‌آی منجر شد
چت‌جی‌پی‌تی اوپن‌ای‌آی به بخشی از زندگی روزمره تبدیل شده است، اما نگرانی‌ها درباره تأثیر آن بر کودکان رو به افزایش است. بنا بر گزارش‌ها، هشت ایالت آمریکا از این شرکت شکایت کرده‌اند و مدعی‌اند که اوپن‌ای‌آی والدین را درباره خطرات این چت‌بات هوش مصنوعی گمراه کرده است. در این شکایت ادعا شده که شرکت به‌درستی به خطراتی که چت‌جی‌پی‌تی برای کاربران کم‌سن‌وسال ایجاد می‌کند، رسیدگی نکرده است.
آیا اوپن‌ای‌آی رشد کسب‌وکار را بر ایمنی کودکان مقدم دانسته است؟
بر اساس گزارشی از سی‌ان‌بی‌سی، هشت ایالت آمریکا علیه اوپن‌ای‌آی، شرکت سازنده چت‌جی‌پی‌تی، اقامه دعوی کرده‌اند. در این شکایت ادعا شده است که شرکت والدین را درباره ایمنی این چت‌بات گمراه کرده است.
ایالت‌های آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا اقدام حقوقی علیه اوپن‌ای‌آی انجام داده‌اند. مقام‌های این ایالت‌ها مدعی‌اند که چت‌جی‌پی‌تی کاربران کم‌سن‌وسال را در معرض تجربه‌های آسیب‌زا قرار داده و شرکت اقدامات لازم را برای مقابله با این خطرات انجام نداده است.
روز چهارشنبه، برنا برد، دادستان کل آیووا، در یک نشست خبری از این اقدام حقوقی خبر داد. اوپن‌ای‌آی از سوی این مقام به این متهم شد که محبوبیت چت‌جی‌پی‌تی را بر ایمنی کودکان مقدم دانسته است. برد استدلال کرد که شرکت قصد داشته محصول خود را با سرعت گسترش دهد، بی‌آنکه به تأثیر آن توجه کافی داشته باشد. به گفته او، شرکت‌های فناوری باید از قانون پیروی کنند و مسئولیت آسیب‌های احتمالی را بپذیرند. او در این‌باره گفت:
«اوپن‌ای‌آی می‌خواست نخستین شرکتی باشد که وارد بازار می‌شود. این شرکت چت‌جی‌پی‌تی را با سرعت زیادی توسعه داد، با اینکه می‌دانست به کودکان آسیب می‌زند، به والدین دروغ می‌گوید و قوانین ما را نقض می‌کند. همه باید از قانون پیروی کنند.»
کریس کوباخ، دادستان کل کانزاس، مایک هیلگرز، دادستان کل نبراسکا، و جی‌بی مک‌کاسکی، دادستان کل ویرجینیای غربی، نیز در این نشست حضور داشتند. آنان افزودند که این شکایت بخشی از تلاش مشترک برای تقویت نظارت قانونی بر شرکت‌های هوش مصنوعی است. این مقام‌ها از شرکت‌های فعال در حوزه هوش مصنوعی خواستند تدابیر ایمنی قوی‌تری اتخاذ کنند و مسئولیت‌پذیری بیشتری داشته باشند.
برنا برد همچنین درباره چندین رویداد گزارش‌شده مرتبط با چت‌جی‌پی‌تی و دیگر چت‌بات‌های هوش مصنوعی ابراز نگرانی کرد. طبق این گزارش‌ها، این پلتفرم رفتارهای مرتبط با خودکشی را تشویق کرده، پاسخ‌هایی ارائه داده که ممکن است به کاربران در آسیب‌رساندن به دیگران کمک کرده باشد و توصیه‌های پزشکی خطرناکی در اختیار کاربران گذاشته است. او همچنین به حادثه‌ای جدی اشاره کرد که در آن نوجوانی در تگزاس بر اثر مصرف بیش‌ازحد دارویی که چت‌جی‌پی‌تی تجویز کرده بود، جان باخت.
اوپن‌ای‌آی چگونه از عملکرد خود دفاع می‌کند؟
اوپن‌ای‌آی در واکنش به این اتهام‌ها از رویکرد خود در زمینه ایمنی کودکان دفاع کرده است. این شرکت می‌گوید تاکنون چندین اقدام حفاظتی، به‌ویژه برای محافظت از کاربران کم‌سن‌وسال، اجرا کرده است. درو پوزاتری، سخنگوی اوپن‌ای‌آی، اعلام کرد که این اقدامات شامل تدابیر حفاظتی متناسب با سن کاربران است؛ تدابیری که به اعتقاد او از اقدامات محصولات دیگر هوش مصنوعی پیشرفته‌تر هستند. او افزود:
«هیچ سامانه‌ای نمی‌تواند بی‌نقص باشد، اما ما به همکاری با متخصصان برای هدایت اقداماتمان و ایجاد تدابیر حفاظتی بیشتر ادامه خواهیم داد. این اقدامات شامل قابلیت‌های کنترلی والدین، یادآوری زمان استراحت و سازوکارهای حفاظتی متناسب با سن است که هم‌اکنون وجود دارند. ما متعهدیم با ایالت‌ها همکاری کنیم تا سیاست‌های عملی و قابل اجرا در حوزه هوش مصنوعی پیش برود؛ سیاست‌هایی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط بر یک شرکت.»
اوپن‌ای‌آی همچنین اعلام کرده است که قصد دارد با مقام‌های ایالتی برای تدوین مقررات عملی در حوزه صنعت هوش مصنوعی همکاری کند. پوزاتری تأکید کرد که این سیاست‌ها باید در سراسر صنعت هوش مصنوعی اجرا شوند و تنها یک شرکت را هدف قرار ندهند.