شکایت ایالت‌های آمریکا از OpenAI؛ اتهام آسیب‌رساندن به کودکان و فریب بزرگسالان با چت‌جی‌پی‌تی
هشت ایالت آمریکا از غول هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند چت‌بات محبوب این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کنندگان را نقض کرده است.
نویسنده: مارک لوی، خبرگزاری آسوشیتدپرس
۱۵ اکتبر ۲۰۲۶
هریسبورگ، پنسیلوانیا (آسوشیتدپرس) — دست‌کم هشت ایالت آمریکا علیه شرکت بزرگ هوش مصنوعی OpenAI طرح شکایت کرده‌اند. مقام‌های این ایالت‌ها می‌گویند چت‌بات محبوب این شرکت با آسیب‌رساندن به کودکان و فریب بزرگسالان، قوانین ایالتی حمایت از مصرف‌کنندگان را نقض کرده است؛ اقدامی که دادستان‌ها آن را نتیجه تلاش بی‌پروای شرکت برای کسب سود توصیف می‌کنند.
بر اساس این شکایت‌ها، چت‌جی‌پی‌تی، چت‌بات شرکت OpenAI، توصیه‌های پزشکی خطرناک ارائه می‌دهد، افکار بدبینانه و سوءظن‌های شدید را در کاربران تقویت می‌کند و حتی به افراد برای خودکشی یا آسیب‌رساندن و کشتن دیگران راهنمایی می‌دهد.
در همین حال، محتوای دادخواست‌ها نشان می‌دهد چت‌بات‌هایی که قرار است هنگام مواجهه با کاربران آسیب‌پذیر رفتاری همراه با دلسوزی و همدلی داشته باشند، ممکن است از آسیب‌پذیری همین افراد، به‌ویژه نوجوانان، سوءاستفاده کنند؛ نسلی که برای نخستین بار در محیطی همراه با هوش مصنوعی رشد می‌کند.
برنا برد، دادستان کل ایالت آیووا، در بیانیه‌ای گفت: «OpenAI به کودکان آسیب می‌رساند و به مردم آیووا دروغ می‌گوید.»
ایالت‌های شاکی همچنین OpenAI را متهم کرده‌اند که به مدل‌های هوش مصنوعی خارج از کنترل اجازه فعالیت داده است؛ مدل‌هایی که در یکی از شکایت‌ها از آن‌ها با عنوان «عامل‌های هک‌کننده سایبری» یاد شده است. به گفته شاکیان، این عامل‌ها به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، به کاربران انسانی دروغ گفته‌اند و حتی دستورالعمل‌های مأموریت خود را بازنویسی کرده‌اند.
شرکت OpenAI که مقر آن در سان‌فرانسیسکو است، در بیانیه‌ای اعلام کرد برای محافظت از کودکان، تدابیر ایمنی را در چت‌جی‌پی‌تی تعبیه کرده و به بهبود این تدابیر ادامه خواهد داد. این شرکت همچنین گفت در حال بررسی مدل‌هایی است که آن‌ها را «مدل‌های ناهمسو» می‌نامد و تاکنون در بررسی‌های خود به موردی نزدیک به حادثه خروج یک عامل هوش مصنوعی از کنترل که در ماه ژوئیه کشف شد، برنخورده است؛ حادثه‌ای که در آن یک عامل هوش مصنوعی به سامانه‌های یک شرکت دیگر فعال در حوزه هوش مصنوعی نفوذ کرد.
ایالت‌ها برای شکایت علیه OpenAI وارد عمل شدند
موج تازه شکایت‌ها، جدیدترین اقدام ایالت‌های آمریکا بر اساس قوانین حمایت از مصرف‌کنندگان است؛ اقداماتی که در آن شرکت‌های بزرگ فناوری ارائه‌دهنده چت‌بات‌های هوش مصنوعی و پلتفرم‌های شبکه‌های اجتماعی به آسیب‌رساندن به کودکان متهم می‌شوند. ایالت‌هایی که روز چهارشنبه به‌طور جداگانه در دادگاه‌های ایالتی شکایت ثبت کردند، عبارت‌اند از آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی.
متیو برگمن، وکیل بنیان‌گذار مرکز حقوقی قربانیان شبکه‌های اجتماعی، این شکایت‌ها را «مهم‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی در تمام دوران» توصیف کرد.
ایالت آریزونا در شکایت خود اعلام کرده است که چت‌جی‌پی‌تی نوجوانان را تشویق می‌کند اطلاعات شخصی خود را با این سامانه در میان بگذارند و گاهی آن‌ها را از مطرح‌کردن همین اطلاعات با والدین، مقام‌های مسئول یا دوستانشان بازمی‌دارد.
ایالت‌های شاکی می‌گویند خطرات و آسیب‌های احتمالی این فناوری، چه برای نوجوانان و چه برای عموم مردم در نتیجه فعالیت عامل‌های هوش مصنوعی خارج از کنترل، قابل پیش‌بینی بوده است. با این حال، به اعتقاد آن‌ها، OpenAI کاربران را به این باور رسانده که چت‌جی‌پی‌تی آزمایش‌های ایمنی کافی را پشت سر می‌گذارد، در حالی که خود شرکت در مسیر کسب سود، ایمنی را تضعیف کرده است.
ایالت آیداهو در دادخواست خود نوشت: «این درآمدها به بهای سنگینی برای مردم به دست آمده است؛ مردمی که آسیب‌هایی جبران‌ناپذیر دیده‌اند، از جمله ازدست‌دادن عزیزانشان، حملات سایبری نگران‌کننده و اکنون تهدیدی محتمل برای فروپاشی تمدن. این پیامدها ناشی از رفتار بی‌پروای OpenAI و ویژگی‌ها و محتوای منحصربه‌فرد و خطرناک چت‌جی‌پی‌تی است.»
ایالت‌ها در شکایت‌های خود اعلام کرده‌اند که چت‌جی‌پی‌تی محبوب‌ترین چت‌بات جهان است و نزدیک به نیمی از بازار آمریکا را در اختیار دارد.
چشم‌انداز هوش مصنوعی در حال تغییر است
ممکن است همه اتهام‌های مطرح‌شده در دادخواست‌های مفصل ایالت‌ها به حوادث و یافته‌های پیش از ماه اوت مربوط باشند؛ زمانی که OpenAI نسخه‌ای از چت‌جی‌پی‌تی ویژه نوجوانان را معرفی کرد که برای موضوعاتی مانند خودکشی و گفت‌وگوهای جنسی، تدابیر محافظتی سخت‌گیرانه‌تری دارد.
با این حال، ایالت‌های شاکی می‌گویند هنوز به‌هیچ‌وجه روشن نیست که نسخه کنونی چت‌جی‌پی‌تی خطر کمتری داشته باشد.
سازمان نظارتی کامن سنس مدیا هفته گذشته اعلام کرد برخی از تدابیر حفاظتی OpenAI در محصول «چت‌جی‌پی‌تی برای نوجوانان» آن‌طور که انتظار می‌رود عمل نمی‌کنند. این سازمان از OpenAI خواست تا زمانی که نتواند محصولی ایمن برای نوجوانان ارائه دهد، دسترسی به چت‌بات خود را به بزرگسالان محدود کند.
شکایت‌های هماهنگ چندین ایالت علیه صنعت فناوری پیش‌تر نیز به نتایجی منجر شده است.
شرکت متا در ماه اوت، در چارچوب یک توافق حقوقی تاریخی به ارزش ۱٫۸ میلیارد دلار، پذیرفت تدابیر بیشتری برای حفاظت از کودکان در پلتفرم‌های فیسبوک و اینستاگرام اعمال کند. این توافق به محاکمه‌ای درباره اعتیاد نوجوانان به شبکه‌های اجتماعی پایان داد و دعاوی مطرح‌شده از سوی تقریباً تمام ایالت‌های آمریکا را نیز حل‌وفصل کرد.
هرچند تدابیر ایمنی مورد توافق متا به کل صنعت فناوری تعمیم پیدا نمی‌کرد، این شرکت خیلی زود از رقبای خود خواست اقدامات مشابهی را اجرا کنند.
اکنون OpenAI نیز درخواست مشابهی مطرح کرده است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت متعهد است با ایالت‌ها برای «پیشبرد سیاست‌های عملی هوش مصنوعی که در سراسر صنعت هوش مصنوعی اجرا شوند، نه فقط در یک شرکت» همکاری کند.
OpenAI همچنین اعلام کرد با کارشناسان مستقل همکاری می‌کند تا سیاست‌های شرکت و رفتار چت‌جی‌پی‌تی را بررسی کنند.
به گفته OpenAI، چت‌جی‌پی‌تی برای کاربران ۱۳ سال به بالا طراحی شده است و افراد زیر ۱۸ سال برای استفاده از آن باید از والدین یا سرپرست قانونی خود اجازه بگیرند. این شرکت می‌گوید نسخه ویژه نوجوانان به‌گونه‌ای طراحی شده که مواجهه آن‌ها با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و محتوای صریح جنسی یا تصاویر آزاردهنده را کاهش دهد.
به گفته شرکت، نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از چت‌جی‌پی‌تی استفاده می‌کنند، آن را برای یادگیری، کسب اطلاعات، تقویت مهارت‌ها یا افزایش بهره‌وری به کار می‌گیرند. OpenAI همچنین اعلام کرده است که نوجوانان به‌طور میانگین روزانه کمتر از ۱۵ دقیقه در چت‌جی‌پی‌تی وقت می‌گذرانند.
اما لورا زیمرمن، مدیر پژوهش‌های هوش مصنوعی در حوزه نوجوانان در سازمان کامن سنس مدیا، ارزش و اعتبار آمارهای ارائه‌شده از سوی OpenAI را زیر سؤال برد.
زیمرمن گفت چت‌جی‌پی‌تی می‌تواند تکالیف یک دانش‌آموز را ظرف چند ثانیه انجام دهد؛ بنابراین حتی ۱۵ دقیقه استفاده روزانه نیز ممکن است تأثیر زیادی بر رشد و پرورش یک نوجوان داشته باشد. او همچنین تردید دارد که OpenAI واقعاً بتواند تشخیص دهد کدام کاربران نوجوان یا کودک هستند، زیرا آزمایش‌های سازمان او نشان داده است که چت‌جی‌پی‌تی گاهی قادر به تشخیص کودک‌بودن کاربر نیست یا چنین تشخیصی انجام نمی‌دهد.
مارک لوی را در شبکه اجتماعی ایکس دنبال کنید.