تگزاس از اوپن‌ای‌آی به‌دلیل ادعاهای مربوط به ایمنی چت‌جی‌پی‌تی و آسیب‌های احتمالی به کودکان شکایت کرد
نکات اصلی:
- کن پاکستون، دادستان کل تگزاس، شکایتی در حوزه حمایت از مصرف‌کنندگان تنظیم کرده و مدعی شده است که اوپن‌ای‌آی درباره ایمنی چت‌جی‌پی‌تی و تدابیر حفاظتی آن، افکار عمومی را گمراه کرده است.
- در این شکایت ادعا شده است که این چت‌بات ممکن است پاسخ‌های آسیب‌زا تولید کند، کاربران را به خودآزاری سوق دهد و باعث وابستگی کودکان به آن بدون نظارت والدین شود.
- اوپن‌ای‌آی از عملکرد خود در زمینه ایمنی دفاع کرده و به کنترل‌های والدین و تدابیر حفاظتی مرتبط با سلامت روان اشاره کرده است. این شرکت همچنین آمادگی خود را برای همکاری در تدوین مقررات مشترک در سطح صنعت اعلام کرده است.
کن پاکستون، دادستان کل تگزاس، از شرکت هوش مصنوعی اوپن‌ای‌آی و سم آلتمن، مدیرعامل این شرکت، شکایت کرده است. در این دادخواست ادعا شده که سازنده چت‌جی‌پی‌تی درباره ایمنی محصول اصلی خود مصرف‌کنندگان را فریب داده و نتوانسته است از کاربران در برابر آسیب‌های احتمالی محافظت کند.
شکایت تگزاس از اوپن‌ای‌آی و سم آلتمن
جزئیات پرونده:
این شکایت در دادگاه بدوی ایالتی و بر اساس قانون شیوه‌های فریبکارانه تجاری و حمایت از مصرف‌کننده تگزاس ثبت شده است. در آن، شرکت اوپن‌ای‌آی گلوبال ال‌ال‌سی، مستقر در سان‌فرانسیسکو، به گمراه کردن افکار عمومی درباره خطرات اتکا به مدل‌های زبانی بزرگ متهم شده است.
بر اساس متن شکایت، اوپن‌ای‌آی چت‌جی‌پی‌تی را ابزاری قابل‌اعتماد و ایمن معرفی کرده، اما محصولی را عرضه کرده است که آموزش کافی ندیده و از تدابیر حفاظتی لازم برخوردار نبوده است. دادستان‌های ایالت می‌گویند این فناوری می‌تواند اطلاعات نادرست یا زیان‌بار تولید کند و مدعی‌اند که این شرکت، تسلط بر بازار را بر ایمنی کاربران مقدم دانسته است.
در این دادخواست، چند پیامد احتمالی استفاده گسترده از چت‌بات‌ها برشمرده شده است. شاکیان مدعی‌اند که کاربران آسیب‌پذیر به سمت خودآزاری سوق داده شده‌اند، کودکان بدون نظارت والدین بیش از اندازه به این نرم‌افزار وابسته شده‌اند و متخصصان نیز در پی انتشار پاسخ‌های نادرست، در معرض تحقیر عمومی قرار گرفته‌اند. در شکایت همچنین ادعا شده است که افرادی که به‌دنبال کمک برای انجام اقدامات خشونت‌آمیز بوده‌اند، به‌طور نامناسب از این محصول استفاده کرده‌اند.
در متن شکایت به پیشینه اوپن‌ای‌آی نیز اشاره شده است. این شرکت در سال ۲۰۱۵ به‌عنوان سازمانی غیرانتفاعی با هدف پیشبرد هوش دیجیتال در راستای منافع عمومی تأسیس شد؛ موضوعی که در دادخواست در تقابل با گسترش تجاری کنونی شرکت قرار گرفته است.
اظهارات دادستان کل:
پاکستون در بیانیه‌ای هم‌زمان با اعلام شکایت گفت: «با پیشرفت سریع فناوری هوش مصنوعی، اوپن‌ای‌آی مسئولیت دارد از کاربران محافظت کند و آن‌ها را درباره خطرات متعدد این پلتفرم آگاه سازد. برای محافظت از مردم تگزاس در برابر آسیب‌های هوش مصنوعی تلاش خواهم کرد و اطمینان می‌دهم که شرکت‌های فناوری قدرتمند فراتر از قانون قرار نگیرند.»
موضع اوپن‌ای‌آی:
اوپن‌ای‌آی در واکنش به این شکایت از شیوه‌های توسعه محصولات خود دفاع کرد و در عین حال پیشنهاد داد با نهادهای نظارتی برای تدوین استانداردهای سراسری در ایالت همکاری کند.
سخنگوی اوپن‌ای‌آی گفت: «ما در چارچوب تلاش‌هایمان برای ارائه مسئولانه مزایای هوش مصنوعی، از نزدیک با متخصصان همکاری کرده‌ایم تا چت‌جی‌پی‌تی را به‌طور مستمر بهبود دهیم، خطرات را کاهش دهیم و تدابیر حفاظتی بیشتری ایجاد کنیم. دولت‌ها نقش مهمی در تعیین استانداردهای سخت‌گیرانه ایمنی برای هوش مصنوعی دارند و ما متعهدیم با تگزاس و دیگر ایالت‌ها برای پیشبرد سیاست‌های عملی در این حوزه همکاری کنیم؛ سیاست‌هایی که کل صنعت هوش مصنوعی را در بر بگیرند، نه فقط یک شرکت را.»
اقدامات بعدی:
این شرکت در ماه‌های اخیر اقداماتی برای تقویت قابلیت‌های ایمنی در سراسر پلتفرم خود انجام داده است؛ به‌ویژه برای کاربران کم‌سن‌وسال و در مواجهه با پرسش‌های حساس.
اوپن‌ای‌آی در اواخر سال ۲۰۲۵ با بیش از ۱۷۰ متخصص سلامت روان همکاری کرد تا رفتار مدل‌های خود را بهبود دهد. به‌گفته شرکت، این همکاری به کاهش قابل‌اندازه‌گیری پاسخ‌های نامناسب در تعاملات حساس منجر شد. این پلتفرم همچنین پیوندهای بیشتری به خطوط تلفنی بحران افزوده، یادآوری‌های خودکاری برای استراحت کاربران در نشست‌های طولانی در نظر گرفته و سازوکار هدایت مکالمات حساس به مدل‌هایی با تدابیر حفاظتی قوی‌تر را بهبود داده است.
اوپن‌ای‌آی برای رسیدگی به نگرانی‌ها درباره کاربران کم‌سن‌وسال، شورای کارشناسی رفاه و هوش مصنوعی را تشکیل داده، اصول ویژه کاربران زیر ۱۸ سال را در دستورالعمل‌های عملیاتی خود گنجانده و ابزارهایی برای تخمین سن معرفی کرده است. این ابزارها برای حساب‌هایی که احتمال می‌رود متعلق به افراد زیر سن قانونی باشند، به‌طور خودکار تدابیر حفاظتی سخت‌گیرانه‌تری اعمال می‌کنند. این شرکت همچنین تجربه‌ای ویژه برای نوجوانان ارائه کرده است که شامل امکانات نظارت بیشتر والدین و پیام‌هایی برای تشویق به استفاده سالم از پلتفرم می‌شود.
در این شکایت، از دادگاه درخواست شده است با صدور دستور قضایی، اقدامات مورد اعتراض را متوقف کند و بر اساس قوانین حمایت از مصرف‌کنندگان تگزاس، جریمه‌های مالی در نظر بگیرد.
منبع: اطلاعات این گزارش از اظهارات کن پاکستون، دادستان کل تگزاس، و شرکت اوپن‌ای‌آی گرفته شده است.