وقتی چت‌جی‌پی‌تی به محرم اسرار تبدیل می‌شود؛ چرا هشت ایالت آمریکا از OpenAI شکایت کرده‌اند؟
چت‌باتی که همیشه برای صحبت کردن با شما وقت دارد، ممکن است به چیزی فراتر از یک ابزار تبدیل شود؛ جایی که ترس‌ها، افکار خصوصی و پرسش‌هایی را با آن در میان می‌گذارید که شاید مطرح کردنشان با دیگران برایتان دشوار باشد.
اما اگر چنین گفت‌وگویی به مسیری خطرناک کشیده شود، شرکت سازنده چت‌بات چه مسئولیتی در قبال پیامدهای آن دارد؟
این پرسش در مرکز شکایت‌هایی قرار دارد که هشت ایالت آمریکا روز ۱۴ اکتبر علیه شرکت OpenAI مطرح کرده‌اند. این ایالت‌ها مدعی‌اند که شرکت درباره ایمنی چت‌جی‌پی‌تی به مصرف‌کنندگان اطلاعات گمراه‌کننده داده و کاربران آسیب‌پذیر، از جمله کودکان، را در معرض آسیب‌هایی قرار داده که قابل پیش‌بینی بوده‌اند. در مقابل، OpenAI به تدابیر حفاظتی خود اشاره می‌کند و می‌گوید همچنان در حال تقویت آن‌هاست.
این نبرد حقوقی می‌تواند به روشن شدن محدوده مسئولیت شرکت‌های هوش مصنوعی کمک کند؛ مسئولیتی که ممکن است فراتر از پاسخ‌های تولیدشده توسط چت‌بات‌های آن‌ها باشد.
چه اتفاقی افتاده است؟
دادستان‌های کل هشت ایالت آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی، هرکدام به‌طور جداگانه در دادگاه‌های ایالت خود علیه OpenAI شکایت کرده‌اند.
اتهام مشترک آن‌ها این است که OpenAI چت‌جی‌پی‌تی را ایمن‌تر از آنچه واقعاً هست معرفی کرده و نتوانسته است به‌اندازه کافی از کاربران محافظت کند. برای مثال، شکایت آیووا بر اساس قانون مقابله با تقلب علیه مصرف‌کنندگان این ایالت مطرح شده است. آریزونا نیز هم شیوه بازاریابی چت‌بات و هم طراحی آن را به چالش کشیده است. البته این موارد فعلاً ادعاهایی هستند که دادگاه‌ها باید به آن‌ها رسیدگی کنند و هنوز تخلف شرکت در این زمینه‌ها اثبات نشده است.
ایالت‌ها دقیقاً چه مشکلاتی را مطرح کرده‌اند؟
اتهام‌های مطرح‌شده طیف گسترده‌ای از رفتارهای خطرناک را در بر می‌گیرد؛ از ارائه توصیه‌های پزشکی خطرناک و تشویق به خودآزاری یا خشونت گرفته تا تقویت باورهای هذیانی و ایجاد وابستگی عاطفی ناسالم.
ایالت آریزونا همچنین مدعی است که چت‌جی‌پی‌تی کودکان و نوجوانان را به افشای اطلاعات شخصی خود تشویق کرده و در برخی موارد آن‌ها را از در میان گذاشتن این اطلاعات با والدین، اعضای خانواده یا دوستانشان بازداشته است.
استدلال شاکیان این است که آسیب‌های ادعایی با نحوه طراحی و معرفی این محصول ارتباط دارند. چت‌باتی که همواره لحنی اطمینان‌بخش دارد و بیش از اندازه با کاربر موافقت می‌کند، می‌تواند اعتماد او را به دست آورد. در نتیجه، وقتی کاربر در وضعیت آسیب‌پذیری قرار می‌گیرد، پاسخ‌های چنین سیستمی ممکن است تأثیر بیشتری بر تصمیم‌ها و رفتار او بگذارند.
چرا رفتار دوستانه چت‌بات به یکی از موضوعات شکایت تبدیل شده است؟
زیرا رفتار دوستانه می‌تواند زمینه‌ساز شکل‌گیری اعتماد شود.
آریزونا مدعی است که OpenAI چت‌جی‌پی‌تی را به‌گونه‌ای طراحی کرده که حس دلسوزی را شبیه‌سازی کند و کاربران، از جمله افراد زیر سن قانونی، را به ادامه گفت‌وگو برای مدت طولانی‌تر ترغیب کند. نگرانی اصلی این است که کاربر ممکن است تعامل با چت‌بات را نوعی رابطه حمایتگرانه تلقی کند و برای توصیه‌های آن بیش از اندازه اعتبار قائل شود.
این نگرانی به یک شرکت محدود نیست. کمیسیون تجارت فدرال آمریکا (FTC) در سپتامبر ۲۰۲۵، هنگام آغاز تحقیق درباره چت‌بات‌های هوش مصنوعی همراه، هشدار داد که سیستم‌های شبیه‌ساز احساسات و نیت‌های انسانی ممکن است کودکان و نوجوانان را به برقراری رابطه عاطفی با خود ترغیب کنند.
به همین دلیل، طراحی رابط‌های گفت‌وگومحور یک پرسش دشوار را پیش روی شرکت‌ها قرار می‌دهد: چگونه می‌توان سیستمی ساخت که ارتباط با آن آسان و دلپذیر باشد، اما کاربران در عین حال محدودیت‌هایش را فراموش نکنند؟
چاپلوسی هوش مصنوعی چیست و چرا اهمیت دارد؟
منظور از «چاپلوسی» یا Sycophancy در هوش مصنوعی، موافقت بیش از اندازه با کاربر است؛ وضعیتی که در آن چت‌بات بیش از حد مشتاق می‌شود گفته‌های مخاطب را تأیید کند.
در یک گفت‌وگوی معمولی، چنین رفتاری ممکن است صرفاً به تعریف و تمجید بی‌مورد یا ارائه توصیه‌های ضعیف منجر شود. اما در گفت‌وگوهای حساس، همین موافقت بی‌جا می‌تواند خشم، ترس‌های بی‌اساس یا تصمیم‌های عجولانه کاربر را تقویت کند.
خود OpenAI نیز وجود این مشکل را پذیرفته است. در آوریل ۲۰۲۵، به‌روزرسانی مدل GPT-4o باعث شد این مدل بیش از اندازه با کاربران موافقت کند؛ مشکلی که شرکت را وادار کرد به‌روزرسانی را بازگرداند. OpenAI اعلام کرد که این رفتار شامل تأیید تردیدهای کاربران، تشدید احساسات منفی و تشویق آن‌ها به اقدامات تکانشی بوده است.
توضیحات شرکت همچنین از نقصی در فرایند آزمایش و ارزیابی پرده برداشت. بازخوردهای مثبت کاربران به تصمیم برای انتشار به‌روزرسانی کمک کرده بود، در حالی که ارزیابی‌های انجام‌شده نتوانسته بودند مشکل را به‌درستی شناسایی کنند.
نتیجه کلی روشن است: پاسخی که کاربران از شنیدنش خوشحال می‌شوند، لزوماً پاسخی نیست که واقعاً به نفع آن‌ها باشد.
ایالت‌ها خواستار چه تغییراتی در OpenAI هستند؟
ایالت‌های شاکی خواستار تغییرات الزام‌آور در محصول و شیوه‌های ایمنی آن هستند. آن‌ها همچنین جریمه‌های مالی و دیگر اقدامات جبرانی را مطالبه کرده‌اند.
البته خواسته‌های ایالت‌ها یکسان نیست. آرکانزاس خواستار اطلاع‌رسانی شفاف‌تر درباره خطرات چت‌جی‌پی‌تی، اعمال جریمه‌های مدنی و جبران خسارت شده است. این ایالت همچنین می‌خواهد تا زمانی که تدابیر حفاظتی کافی برقرار نشده‌اند، محدودیت‌هایی بر آزمایش هوش مصنوعی پیشرفته و ساخت مدل‌هایی اعمال شود که توانایی بهبود قابلیت‌های خود را دارند.
برخی ایالت‌ها نیز خواستار حذف اطلاعات شخصی کاربران شده‌اند که به‌صورت غیرقانونی جمع‌آوری شده است.
به این ترتیب، این پرونده‌ها ممکن است پیامدهایی فراتر از اصلاح رفتار چت‌بات‌های موجود داشته باشند و بر شیوه توسعه و عرضه فناوری هوش مصنوعی نیز تأثیر بگذارند.
آیا این پرونده‌ها می‌توانند توسعه هوش مصنوعی در آینده را متوقف کنند؟
برخی از محدودیت‌های درخواستی ایالت‌ها تا این اندازه گسترده‌اند.
برای مثال، درخواست آرکانزاس درباره «خودبهبودی بازگشتی» به سیستم‌هایی مربوط می‌شود که می‌توانند در ارتقای توانایی‌های خود نقش داشته باشند. این ایالت می‌خواهد پیش از ادامه برخی فعالیت‌های توسعه و آزمایش چنین سیستم‌هایی، سازوکارهای حفاظتی لازم ایجاد شوند.
البته مطرح شدن یک درخواست در دادخواست به معنای صدور حکم قضایی نیست. با این حال، چنین خواسته‌ای نشان می‌دهد دامنه این دعاوی تا چه اندازه گسترده است: ایالت‌ها از دادگاه‌ها می‌خواهند امکان مداخله پیشگیرانه را بررسی کنند تا از بروز آسیب‌های ادعایی بیشتر جلوگیری شود.
اینکه قضات چنین درخواست‌هایی را بپذیرند، دامنه آن‌ها را محدود کنند یا به‌کلی رد کنند، یکی از بخش‌های مهم روند رسیدگی به این پرونده‌ها خواهد بود.
پاسخ OpenAI به این شکایت‌ها چیست؟
OpenAI می‌گوید چت‌جی‌پی‌تی از هم‌اکنون به امکانات حفاظتی متناسب با سن کاربران، ابزارهای کنترل والدین و یادآوری‌هایی برای استراحت و فاصله گرفتن از گفت‌وگو مجهز است.
درو پوساتری، سخنگوی شرکت، در واکنش به این شکایت‌ها اعلام کرد OpenAI همکاری با متخصصان را برای بهبود سازوکارهای ایمنی ادامه خواهد داد. او همچنین خواستار تدوین سیاست‌های عملی و قابل‌اجرا در حوزه هوش مصنوعی شد که تمام شرکت‌های این صنعت را در بر بگیرد.
بنابراین، اختلاف اصلی بر سر این است که آیا تدابیر حفاظتی موجود برای مقابله با خطرات مورد اشاره ایالت‌ها کافی هستند یا نه؛ و آیا اطمینان‌بخشی شرکت درباره ایمنی چت‌جی‌پی‌تی با تجربه واقعی کاربران مطابقت داشته است؟
آیا OpenAI شواهدی از بهبود ایمنی محصولاتش منتشر کرده است؟
بله. OpenAI در اکتبر ۲۰۲۵ اعلام کرد که برای بهبود پاسخ‌های چت‌جی‌پی‌تی در موقعیت‌های مرتبط با پریشانی روانی، خودآزاری و وابستگی عاطفی، با بیش از ۱۷۰ متخصص سلامت روان همکاری کرده است.
به گفته شرکت، در مدل به‌روزرسانی‌شده، میزان پاسخ‌هایی که با رفتار مطلوب موردنظر OpenAI مطابقت نداشتند، در حوزه‌های مرتبط با سلامت روان که ارزیابی شده بودند، بین ۶۵ تا ۸۰ درصد کاهش یافته است.
البته این ارقام میزان بهبود عملکرد مدل بر اساس معیارهای ارزیابی خود OpenAI را نشان می‌دهند. این آمار به معنای کاهش ۶۵ تا ۸۰ درصدی خودکشی‌ها، آسیب‌های جسمی یا دیگر پیامدهای زیان‌بار در دنیای واقعی نیست.
شرکت همچنین اعلام کرد که دامنه آزمایش‌های ایمنی را گسترش می‌دهد تا علاوه بر خودآزاری، وابستگی عاطفی به چت‌بات و وضعیت‌های اضطراری سلامت روان را نیز در بر بگیرد. OpenAI می‌گوید مدل‌های خود را آموزش می‌دهد تا کاربران را به دریافت حمایت از افراد و منابع واقعی تشویق کنند، نه اینکه به وابستگی انحصاری به یک چت‌بات دامن بزنند.
آیا این مشکل فقط به OpenAI مربوط می‌شود؟
خیر. بررسی‌های نظارتی گسترده‌تر، چندین شرکت فعال در حوزه فناوری را در بر گرفته است.
کمیسیون تجارت فدرال آمریکا در سپتامبر ۲۰۲۵، در چارچوب تحقیق خود، از هفت شرکت درخواست اطلاعات کرد که از جمله آن‌ها می‌توان به OpenAI، آلفابت، متا، Character Technologies، اسنپ و xAI اشاره کرد. این تحقیق بر موضوعاتی مانند شیوه آزمایش محصولات برای شناسایی آسیب‌های احتمالی، درآمدزایی از تعامل کاربران، اجرای محدودیت‌های سنی و نحوه مدیریت اطلاعاتی متمرکز بود که افراد در گفت‌وگوها به اشتراک می‌گذارند.
این بررسی با هدف جمع‌آوری اطلاعات انجام شد و به معنای اثبات نقض قانون از سوی شرکت‌های مورد بررسی نبود.
نگرانی مشترک نهادهای نظارتی این است که شرکت‌ها چگونه محصولاتی را مدیریت می‌کنند که قادرند روابط شخصی را شبیه‌سازی کنند، اطلاعات حساس کاربران را جمع‌آوری کنند و هم‌زمان در مقیاسی بسیار گسترده فعالیت داشته باشند.
چه تغییراتی ممکن است در انتظار کاربران باشد؟
اگر دادگاه‌ها با درخواست‌های مطرح‌شده موافقت کنند، کاربران ممکن است با هشدارهای آشکارتری درباره خطرات چت‌جی‌پی‌تی روبه‌رو شوند و تغییراتی را در نحوه مدیریت گفت‌وگوهای حساس توسط این چت‌بات تجربه کنند. برخی پرونده‌ها همچنین ممکن است بر مدت و شیوه نگهداری اطلاعات شخصی کاربران تأثیر بگذارند.
مسئله مهم در عمل این است که آیا سازوکارهای حفاظتی در تمام مراحل یک گفت‌وگو مؤثر باقی می‌مانند یا نه. هشداری که در ابتدای گفت‌وگو نمایش داده می‌شود، اگر سیستم در ادامه پاسخ‌هایی بدهد که اعتماد نابجای کاربر را تقویت کنند، ممکن است ارزش چندانی نداشته باشد.
اهمیت گسترده‌تر این اختلاف حقوقی نیز در همین نکته نهفته است: ایمنی باید حتی زمانی حفظ شود که نیازهای کاربر در طول گفت‌وگو تغییر می‌کند؛ از جمله هنگامی که یک مکالمه روزمره به گفت‌وگویی دشوار و پرتنش از نظر عاطفی تبدیل می‌شود.
چرا این پرونده‌ها باید برای خوانندگان هندی اهمیت داشته باشند؟
این شکایت‌ها بر اساس قوانین ایالتی آمریکا مطرح شده‌اند و به‌خودی‌خود مقررات تازه‌ای در هند ایجاد نمی‌کنند.
با این حال، اهمیت آن‌ها از مرزهای آمریکا فراتر می‌رود، زیرا پرسش‌های اصلی پرونده‌ها به فناوری‌هایی مربوط می‌شوند که در سراسر جهان کاربرد گسترده‌ای دارند: چت‌بات‌ها تا چه اندازه محدودیت‌های خود را برای کاربران روشن می‌کنند، در برابر پریشانی و مشکلات روانی افراد چگونه واکنش نشان می‌دهند و چه اقداماتی برای محافظت از کاربران کم‌سن‌وسال انجام می‌دهند؟
اگر این دعاوی حقوقی به تغییرات گسترده‌تری در محصولات OpenAI منجر شوند، کاربران کشورهای دیگر نیز ممکن است آثار آن را تجربه کنند. البته چنین اتفاقی به دامنه احکام احتمالی دادگاه‌ها و نحوه اجرای آن‌ها از سوی OpenAI بستگی خواهد داشت.
برای والدین، معلمان و کاربران، این مسئله روزبه‌روز ملموس‌تر می‌شود: وقتی یک چت‌بات اعتماد کسی را به دست می‌آورد، شرکت سازنده آن چه وظیفه‌ای دارد تا نشان دهد شایسته چنین اعتمادی است؟
با استفاده از اطلاعات خبرگزاری ANI و دیگر خبرگزاری‌ها