شکایت از OpenAI به اتهام نقش چت‌جی‌پی‌تی در مرگ یک بیمار مبتلا به صرع
چون وان و می‌چین شو، والدین بوئن وان، از شرکت OpenAI و سم آلتمن، مدیرعامل این شرکت، به اتهام مرگ ناشی از قصور شکایت کرده‌اند. آن‌ها مدعی‌اند چت‌جی‌پی‌تی دخترشان را که در ماه فوریه درگذشت، به قطع داروی ضدتشنج تشویق کرده بود.
در دادخواست آمده است که چت‌جی‌پی‌تی با تنظیم برنامه‌ای روزبه‌روز برای کاهش دوز دارو، بدون داشتن مجوز پزشکی اقدام به درمان کرده است. بر اساس این برنامه، دوز ثابت ۴۰۰ میلی‌گرمی لاموتریژین که بیمار مصرف می‌کرد، طی ۲۵ روز به صفر می‌رسید. به گزارش نیویورک تایمز، این شکایت روز سه‌شنبه در دادگاه عالی سان‌فرانسیسکو ثبت شد و به پرونده‌های تجمیع‌شده مربوط به مسئولیت حقوقی محصولات چت‌جی‌پی‌تی پیوست.
طبق دادخواست، هیچ پزشکی چنین برنامه‌ای را برای بیمار تجویز نکرده بود و این روش با راهنمای مورد تأیید سازمان غذا و داروی آمریکا (FDA) برای بیماران مصرف‌کننده داروی لامیکتال مغایرت داشت. شاکیان همچنین مدعی‌اند چت‌جی‌پی‌تی به بوئن وان گفته بود متخصص صرع او «به احتمال زیاد هرگز با نوع بیماری شما مواجه نشده است» و خودداری او از انجام آزمایش خون را «راهبردی بسیار قوی برای اجتناب» توصیف کرده بود. در دادخواست همچنین آمده است که هیچ هشداری به او داده نشده بود که دقت و سازوکارهای حفاظتی محصول در زبان چینی، یکی از دو زبانی که او برای گفت‌وگو با چت‌بات استفاده می‌کرد، ضعیف‌تر است.
بر اساس دادخواست، بوئن وان، ۳۱ ساله، آخرین دوز داروی خود را در حدود ۱۰ فوریه مصرف کرد. طبق برنامه تنظیم‌شده، قرار بود از ۱۲ فوریه مصرف دارو را به‌طور کامل کنار بگذارد؛ شاکیان می‌گویند او همان روز درگذشت. بنا بر اطلاعات مندرج در دادخواست، پزشکی قانونی شهرستان کینگ علت مرگ را مرگ ناگهانی و غیرمنتظره ناشی از صرع اعلام کرد. همچنین، میزان لاموتریژین در نمونه خون پس از مرگ او حدود یک‌پنجم پایین‌ترین غلظتی بود که عموماً در محدوده درمانی این دارو قرار می‌گیرد.
بر اساس بررسی نیویورک تایمز از سوابق گفت‌وگوهای بوئن وان با چت‌جی‌پی‌تی، او دست‌کم ۱۵۸ بار درباره کاهش تدریجی دارو ابراز نگرانی کرده بود. دکتر نیکلاس پولوس، از مدیران مرکز منطقه‌ای صرع در مجموعه پزشکی دانشگاه واشینگتن، به این روزنامه گفت که با توجه به سابقه بیماری او، چنین برنامه‌ای را غیرمنطقی می‌دانست. او گفت: «نه، اصلاً منطقی نیست؛ به هیچ وجه.»
درو پوزاتری، سخنگوی OpenAI، این پرونده را «وضعیتی به‌شدت دلخراش» توصیف کرد، اما گفت مدل مورد بحث نسخه‌ای قدیمی بوده که شرکت از آن استفاده نمی‌کند. به گزارش نیویورک تایمز، مدل GPT-4o که بوئن وان از آن استفاده می‌کرد، در ۱۳ فوریه از اپلیکیشن مصرف‌کنندگان حذف شد. پوزاتری همچنین افزود که مدل‌های جدیدتر این شرکت در شناسایی موقعیت‌هایی که ممکن است به رسیدگی فوری نیاز داشته باشند، عملکرد بهتری دارند.
این شکایت پس از پرونده‌ای مطرح می‌شود که در ماه ژوئیه یک کشیش سابق در فلوریدا علیه OpenAI ثبت کرد. او مدعی است GPT-4o توصیه‌های پزشکی زیان‌باری ارائه داده بود که باعث تأخیر در درمان آمبولی ریه شد. گزارش مربوط به شکایت کشیش سابق فلوریدا جزئیات این پرونده را شرح می‌دهد. OpenAI همچنین با شکایت دیگری درباره مرگ ناشی از قصور روبه‌رو است که در ماه مه از سوی زوجی در تگزاس ثبت شد. آن‌ها مدعی‌اند پسرشان پس از پیروی از توصیه‌های چت‌جی‌پی‌تی بر اثر مصرف بیش از حد مواد مخدر جان باخته است.
متیو پی. برگمن، وکیل بنیان‌گذار مرکز حقوقی حمایت از قربانیان شبکه‌های اجتماعی، در بیانیه‌ای گفت: «اگر یک پزشک انسانی چنین توصیه‌ای به بوئن داده بود، به دلیل قصور پزشکی مسئول شناخته می‌شد.»
بنجامین اس. شنک، از شرکای مؤسسه حقوقی شنک، نیز در بیانیه‌ای گفت این پرونده «این پرسش را مطرح می‌کند که مرز میان هوش مصنوعی مولد و پزشکی کجاست و وقتی یک محصول از این مرز عبور می‌کند، چه کسی باید پاسخ‌گو باشد.»