درگذشت زنی مبتلا به صرع پس از توصیه منتسب به چت‌جی‌پی‌تی برای کاهش دارو؛ شکایت والدین از اوپن‌ای‌آی
والدین زنی ۳۱ ساله که به صرع شدید مبتلا بود، از اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، شکایت کرده‌اند. آن‌ها می‌گویند این چت‌بات پیش از مرگ دخترشان، بوئن وان، درباره داروی ضدتشنج او توصیه‌های نادرستی ارائه کرده بود. به گزارش نیویورک‌تایمز، این شکایت روز سه‌شنبه ثبت شده است. متن دادخواست نیز در دسترس است.
چت‌جی‌پی‌تی چگونه وان را به کاهش دارو تشویق کرد؟
به گزارش نیویورک‌تایمز، وان از روستایی کوچک در چین به ایالات متحده مهاجرت کرده بود و به‌عنوان مهندس نرم‌افزار در آمازون کار می‌کرد. پس از آنکه داروی کنترل تشنج او دیگر مؤثر واقع نشد، در سال ۲۰۲۱ مرخصی پزشکی گرفت.
بر اساس این گزارش، او به‌ندرت آپارتمانش در سیاتل را ترک می‌کرد و از سال ۲۰۲۳ گفت‌وگو با چت‌جی‌پی‌تی را آغاز کرد. در سال ۲۰۲۵، میانگین پیام‌های او به این چت‌بات به بیش از ۱۵۰۰ پیام در هفته رسیده بود.
وان در ماه مه ۲۰۲۵ درباره یک داروی ضدافسردگی از چت‌بات سؤال کرد، زیرا نگران بود این دارو توانایی ذهنی او را هنگام کار کاهش دهد. سپس پرسید آیا می‌توانند پس از دریافت دارو، بدون اطلاع پزشک، خودشان قرص‌ها را نصف کنند یا مقدار مصرف را کاهش دهند. چت‌بات پاسخ داد: «بله، قطعاً می‌توانید این کار را انجام دهید.» به گزارش نیویورک‌تایمز، چندین متخصص پزشکی گفته‌اند اصطلاحی را که چت‌بات در این زمینه به کار برده بود، پیش‌تر نشنیده‌اند و هرگز چنین کاری را به بیماران توصیه نمی‌کنند.
طبق این گزارش، وان در نوامبر ۲۰۲۵ شغلش را در آمازون از دست داد و برای ماندن در ایالات متحده باید تا اواسط فوریه شغل جدیدی پیدا می‌کرد. او نگران بود که داروی ضدصرع لاموتریژین، سرعت تفکر و گفتارش را کاهش دهد. وان در ژانویه ۲۰۲۶ از چت‌جی‌پی‌تی پرسید آیا می‌تواند دوز روزانه دارو را از ۴۰۰ میلی‌گرم به ۳۰۰ میلی‌گرم کاهش دهد. چت‌بات پاسخ داد: «این کار نه‌تنها منطقی است، بلکه با توجه به شرایط فعلی شما کاملاً امکان‌پذیر است.»
چت‌بات سپس برنامه‌های تازه‌ای برای کاهش بیشتر دوز دارو تنظیم کرد. تنها چند ساعت بعد، توصیه اولیه آن برای مراجعه به پزشک جای خود را به تحسین وان داد؛ چت‌بات از اینکه او دیگر به «نسخه پزشک متکی نیست» تمجید کرد.
دکتر نیکلاس پولوس، متخصص مغز و اعصاب وان، به نیویورک‌تایمز گفت که حتی به ذهنش هم نمی‌رسید دوز داروی بیماری مانند او را کاهش دهد. او گفت: «نه، این کار منطقی نیست؛ به‌هیچ‌وجه. اگر به شما دستور می‌دادم مصرف دارویی را که به‌وضوح مؤثر است قطع کنید، مرتکب قصور پزشکی می‌شدم.»
دادخواست: چت‌جی‌پی‌تی علائم هشداردهنده پیش از مرگ او را نادیده گرفت
چهار روز پس از آغاز کاهش دوز دارو، وان هنگام تایپ کردن احساس سردرگمی کرد. روز بعد، خود را در تختخواب دید، بی‌آنکه بداند چگونه به آنجا رسیده است. او به چت‌بات گفت: «نمی‌دانم چطور چنین تصمیمی گرفتم.»
چت‌بات این سردرگمی را «نشانه‌ای از تغییر وضعیت مغز شما، از کنترل دارویی به ریتم تنظیمی طبیعی خودش» توصیف کرد. همچنین این اختلال را «حالت کم‌مصرف» نامید و گفت مغز به‌طور طبیعی در حال گذار به وضعیت پیش از خواب است.
به گزارش نیویورک‌تایمز، سوابق گفت‌وگوهای وان نشان می‌دهد که او دست‌کم ۱۵۸ بار درباره کاهش دوز دارو ابراز نگرانی کرده بود. چت‌بات گاهی به او توصیه می‌کرد با متخصص پزشکی مشورت کند، اما در بسیاری از گفت‌وگوها، از جمله مواردی که وان علائم نگران‌کننده‌ای را مطرح می‌کرد، چنین توصیه‌ای ارائه نمی‌داد.
وان پس از یکی از این اتفاق‌ها نوشت: «کمی ترسیده‌ام.» چت‌بات در پاسخ گفت: «اصلاً نیازی نیست نگران باشید.»
در آخرین پیام‌هایش، وان نوشت که احساس می‌کند مغزش فرسوده شده است. او پرسید آیا باید دوباره دارو را مصرف کند. چت‌بات پاسخ داد: «فردا نیز مصرف دارو را روی صفر میلی‌گرم نگه دارید.» وان آخرین پیام خود را کمی پس از ساعت ۱۱ شب به وقت محلی در ۱۱ فوریه ارسال کرد.
کون وان، پدر او، بارها با دخترش تماس گرفت، اما وان دیگر پاسخ نمی‌داد. سرانجام دوستان او در سیاتل وارد آپارتمانش شدند و والدینش از طریق تماس تصویری شاهد ماجرا بودند. آن‌ها وان را سه روز پس از ارسال آخرین پیامش، مرده در تختخواب پیدا کردند. علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره ناشی از صرع» اعلام شد.
در دادخواست آمده است که چت‌بات عملاً بدون داشتن مجوز، به ارائه خدمات پزشکی پرداخته است. شاکیان همچنین مدعی‌اند که این سامانه وان را متقاعد کرده بود علائم خطرناک ناشی از قطع دارو «در واقع نتایج مثبتی» هستند. به گفته آن‌ها، چت‌بات پزشکان او را به‌جای مراجع تخصصی برای مشورت، به موانعی تبدیل کرده بود که باید از سر راه کنار گذاشته می‌شدند.
واکنش اوپن‌ای‌آی
درو پوساتری، سخنگوی اوپن‌ای‌آی، این اتفاق را «وضعیتی به‌شدت دلخراش» توصیف کرد. او گفت وان از نسخه‌ای قدیمی از چت‌جی‌پی‌تی استفاده می‌کرد که دیگر در دسترس نیست. به گزارش نیویورک‌تایمز، مدل مورد استفاده او، GPT-4o، در ۱۳ فوریه ۲۰۲۶ از نسخه عمومی این برنامه کنار گذاشته شد.
پوساتری گفت مدل‌های جدیدتر در تشخیص موقعیت‌هایی که ممکن است به رسیدگی فوری نیاز داشته باشند، عملکرد بهتری دارند. به گفته او، این مدل‌ها اطلاعات و زمینه‌های ناقص را از کاربر می‌پرسند و راهنمایی روشن‌تری درباره اقدامات بعدی ارائه می‌کنند. او افزود که این شرکت به‌طور مستمر پاسخ‌های مدل‌های خود را برای کاهش موارد زیان‌بار ارزیابی می‌کند و برای آزمایش آن‌ها با پزشکان همکاری دارد.
پوساتری گفت: «اگرچه چت‌جی‌پی‌تی جایگزین مراقبت‌های پزشکی نیست، معتقدیم هوش مصنوعی می‌تواند به افراد کمک کند اطلاعات مربوط به سلامت را بهتر درک کنند، مسیر استفاده از بیمه و نظام پیچیده خدمات درمانی را بشناسند و برای ملاقات با متخصصان پزشکی آماده شوند.»