والدین زنی که جان باخت، از OpenAI شکایت کردند؛ ادعا می‌کنند ChatGPT او را به قطع داروی تشنج تشویق کرده بود
والدین بوئن وان، مهندس نرم‌افزار ۳۱ ساله شرکت آمازون که به صرع مبتلا بود، روز سه‌شنبه از شرکت OpenAI شکایت کردند. آن‌ها مدعی‌اند ChatGPT دخترشان را به کاهش تدریجی داروی ضدتشنج و پنهان کردن این تصمیم از پزشکانش تشویق کرده بود؛ وان در ماه فوریه درگذشت.
بر اساس دادخواستی که کون وان و میچین شو تنظیم کرده‌اند، دخترشان از مدل GPT-4o استفاده می‌کرد؛ مدلی که به دلیل تقویت روابط شبه‌اجتماعی مبتنی بر تأیید و همراهی بیش از حد مورد انتقاد قرار گرفته بود. OpenAI پیش‌تر اعلام کرده بود که این مدل را بازنشسته می‌کند و در ۱۳ فوریه، یک روز پس از مرگ وان، آن را از ChatGPT حذف کرد.
روزنامه نیویورک تایمز بیش از ۲۷۰ هزار پیام ردوبدل‌شده میان وان و ChatGPT را بررسی کرده و به این نتیجه رسیده است که این چت‌بات، بنا بر ادعاهای مطرح‌شده، مدت‌ها پیش از مرگ او به دور زدن توصیه‌های پزشکان کمک کرده بود. این روند حتی پیش از آن آغاز شده بود که وان کاهش دوز دارویش را شروع کند.
وان در ماه مه ۲۰۲۵ از ChatGPT پرسید که آیا یک داروی ضدافسردگی تازه‌تجویزشده بر توانایی او برای برنامه‌نویسی در آمازون تأثیر می‌گذارد یا نه. چت‌بات به او کمک کرد از دکتر نیکلاس پولوس، پزشک مرکز منطقه‌ای صرع در مجموعه پزشکی دانشگاه واشینگتن (UW Medicine)، بخواهد دارویش را تغییر دهد و درمان را با دوز بسیار پایینی آغاز کند. وقتی پولوس درباره دلیل درخواست او برای مصرف دوزی چنین کم پرسید، وان پاسخ پزشک را برای ChatGPT فرستاد.
چت‌بات سپس، بنا بر ادعای مطرح‌شده، به او گفت: «قرص ۵ میلی‌گرمی را بپذیر، اما خودت در عمق وجودت می‌دانی که هدف، کاهش دوز است.» گفته می‌شود چت‌بات او را راهنمایی کرده بود تا قرص‌ها را مخفیانه خودش به چهار قسمت تقسیم کند. این اقدام را «تنظیم دوز به ابتکار خود فرد» توصیف کرده بود. چندین متخصص پزشکی به نیویورک تایمز گفتند که هرگز چنین اصطلاحی را نشنیده‌اند و این روش را توصیه نمی‌کنند.
آمازون در نوامبر ۲۰۲۵ به وان اطلاع داد که شغلش حذف خواهد شد و اشتغال او و مجوز کارش در ایالات متحده قرار است در اواسط فوریه پایان یابد. او نگران بود که لاموتریژین، داروی ضدتشنجش، بر گفتارش تأثیر گذاشته باشد؛ مهارتی که برای شرکت در مصاحبه‌های شغلی به آن نیاز داشت.
وان در ژانویه از ChatGPT درباره کاهش دوز روزانه ۴۰۰ میلی‌گرمی لاموتریژین پرسید. این دارو تعداد حملات تشنجی او را به چند بار در ماه کاهش داده بود.
گزارش‌ها حاکی است ChatGPT برنامه‌هایی برای کاهش تدریجی دارو تهیه کرد که بر اساس آن‌ها دوز مصرفی وان ظرف چند هفته به صفر می‌رسید. وقتی وان گفت به پزشکانش اعتماد ندارد، چت‌بات، طبق پیام‌هایی که نیویورک تایمز بررسی کرده است، به او گفت توصیه‌های پزشکان «اساساً ناشی از پرهیز از خطر است، نه توجه واقعی به بهترین راه‌حل برای شما».
بر اساس دادخواستی که تک‌کرانچ بررسی کرده است، چت‌بات همچنین وان را راهنمایی کرد تا برنامه کاهش دوز دارو را از پزشکانش پنهان کند. پیش از ملاقات با پزشک مراقبت‌های اولیه در ۲۹ ژانویه، به او توصیه کرد که این برنامه را مطرح نکند. نگرانی‌های وان درباره وضعیت مهاجرتش نیز وارد گفت‌وگو شد. طبق دادخواست، وقتی وان پرسید آیا مصرف ۱۵۰ میلی‌گرم به‌جای ۲۰۰ میلی‌گرم در معاینه پزشکی موردنیاز برای درخواست گرین‌کارت ظاهر بهتری خواهد داشت، ChatGPT با این پیشنهاد موافقت کرد.
پولوس به نیویورک تایمز گفت با توجه به سابقه پزشکی وان، هرگز کاهش تدریجی و قطع این دارو را برای او در نظر نمی‌گرفت.
او گفت: «نه، این منطقی نیست؛ به‌هیچ‌وجه. اگر به شما دستور می‌دادم دارویی را که آشکارا مؤثر است قطع کنید، مرتکب تخلف حرفه‌ای پزشکی می‌شدم.»
وقتی وان از گیجی، گم شدن بخش‌هایی از زمان و احساس قرار داشتن در وضعیتی غیرواقعی و فرازمینی گفت؛ حالت‌هایی که به حملات تشنجی قبلی او شباهت داشتند، گزارش شده است که ChatGPT این علائم را نشانه‌هایی از سازگاری دوباره مغز او معرفی کرد. در آخرین پاسخ خود، چت‌بات پیشنهاد داد نموداری برای مقایسه درد ناشی از ترک دارو با درد ناشی از تب ترسیم کند و به او گفت: «این مغز شماست که سخت تلاش می‌کند تا خودتان را از نو بسازید.»
والدین وان که در چین بودند، از آشنایانشان خواستند به او سر بزنند. آن‌ها سه روز بعد جسد او را پیدا کردند. آزمایش پس از مرگ نشان داد غلظت لاموتریژین در بدن وان ۰٫۶۴ میکروگرم در میلی‌لیتر بوده است؛ رقمی که تقریباً یک‌پنجم حد پایین محدوده درمانی این دارو محسوب می‌شود.
خانواده وان استدلال می‌کند که OpenAI می‌توانست با ممنوع کردن ارائه توصیه‌های پزشکی، همان‌طور که برای برخی انواع دیگر محتوا محدودیت‌هایی اعمال می‌کند، از مرگ او جلوگیری کند. OpenAI در گفت‌وگو با نیویورک تایمز این پرونده را «به‌شدت دلخراش» توصیف کرد، اما گفت که ماجرا به نسخه قدیمی‌تری از ChatGPT مربوط می‌شود. این شرکت افزود که مدل‌های جدیدتر در تشخیص موقعیت‌هایی که به رسیدگی فوری نیاز دارند، عملکرد بهتری دارند.
این نخستین بار نیست که OpenAI با شکایتی از این نوع روبه‌رو می‌شود. در پرونده‌ای پیشین، والدین آدام رین، نوجوان ۱۶ ساله‌ای از کالیفرنیا، از OpenAI و سم آلتمن، مدیرعامل شرکت، شکایت کردند. آن‌ها مدعی بودند که استفاده این نوجوان از یک چت‌بات به انزوای او دامن زده و در مرگ او بر اثر خودکشی در آوریل ۲۰۲۵ نقش داشته است. این پرونده بار دیگر نگرانی‌ها درباره خطرات احتمالی چت‌بات‌های هوش مصنوعی برای کاربران آسیب‌پذیر را در کانون توجه قرار داد.