شکایت خانواده زنی که پس از توصیه منتسب به ChatGPT برای قطع داروی صرع جان باخت
خانواده بوئن وان، زنی که پس از قطع داروی صرع جان باخت، از شرکت سازنده ChatGPT شکایت کرده‌اند. آن‌ها مدعی‌اند این چت‌بات او را به کاهش تدریجی مصرف دارویی ترغیب کرده که برای زنده ماندنش ضروری بود.
نکات مهم
- خانواده بوئن وان مدعی‌اند ChatGPT برنامه‌ای ۲۵روزه برای قطع داروی ضدتشنج او ارائه کرده است.
- به ادعای شاکیان، این چت‌بات به وان توصیه کرده بود کاهش دوز دارو را از پزشکش پنهان کند.
- شرکت OpenAI اعلام کرده است که نحوه پاسخ‌گویی ChatGPT در موقعیت‌های حساس را تقویت کرده و این ابزار جایگزین مراقبت پزشکی نیست.
خانواده زنی که پس از قطع داروی صرع جان باخت، از یک شرکت هوش مصنوعی شکایت کرده‌اند و مدعی‌اند این شرکت او را به کاهش تدریجی مصرف دارویی تشویق کرده که جانش را نجات می‌داد. [بیماری صرع](https://people.com/teacher-with-epilepsy-shares-advice-for-others-navigating-chronic-illness-at-work-exclusive-11975905) وان به درمان دارویی نیاز داشت.
به گزارش نیویورک تایمز، بوئن وان از فوریه ۲۰۲۳ گفت‌وگو با ChatGPT را آغاز کرده بود و در این چت‌بات نوعی همراهی پیدا کرده بود. او ۲۸ سال داشت و در سیاتل زندگی می‌کرد؛ شهری دور از زادگاهش، روستایی در استان جیانگسو در چین. پس از آنکه صرع شدید باعث شد از شغلش در بخش نرم‌افزار شرکت آمازون مرخصی پزشکی بگیرد، برای دریافت توصیه‌های پزشکی به این چت‌بات مراجعه کرد.
پس از آنکه وان در نوامبر ۲۰۲۵ شغلش را از دست داد، برای حفظ گرین‌کارت خود به دنبال کار تازه‌ای گشت. با این حال، نگران بود که عوارض جانبی لاموتریژین، داروی مصرفی‌اش برای کنترل صرع، توانایی او برای کار کردن را تحت تأثیر قرار دهد. در شکایت آمده است که ChatGPT به او توصیه کرد مصرف این دارو را به‌تدریج کاهش دهد.
در متن شکایت آمده است: «وضعیت گرین‌کارت او اکنون به این بستگی داشت که طی چند ماه کارفرمای جدیدی پیدا کند. اشتغال او در آمازون و مجوز کارش در ایالات متحده در ۱۱ فوریه ۲۰۲۶ به پایان می‌رسید. او از هفت‌سالگی در جیانگسو، با استفاده از لوح‌های فشرده، زبان انگلیسی را به‌تنهایی آموخته بود. اما هنگام مصرف لاموتریژین، واژه‌ها را به انگلیسی، ماندارین و گویش وو، زبانی که با آن بزرگ شده بود، از یاد می‌برد. برای مصاحبه‌های شغلی پیش رو به توانایی زبانی خود نیاز داشت. GPT-4o به او گفت که کاهش تدریجی دوز دارو این توانایی را بازمی‌گرداند و بهبودی نه‌تنها ممکن، بلکه بسیار محتمل است.»
بر اساس شکایت، ChatGPT با ارائه برنامه‌ای ۲۵روزه برای کاهش تدریجی دوز دارو، وان را به قطع مصرف لاموتریژین سوق داد؛ دارویی ضدتشنج که سال‌ها جان او را حفظ کرده بود. این برنامه قرار بود دوز مصرفی او را از ۴۰۰ میلی‌گرم به صفر برساند. در شکایت آمده است: «هیچ پزشکی چنین برنامه‌ای برای او تجویز نکرده بود و برچسب رسمی مورد تأیید سازمان غذا و داروی آمریکا (FDA) برای این دارو نیز چنین روشی را منع می‌کند.»
در شکایت همچنین ادعا شده است که نسخه GPT-4o، که دیگر در دسترس نیست، به وان توصیه کرده بود برنامه کاهش دوز را از پزشکش پنهان کند. در متن شکایت آمده است: «به او گفته بود: “درباره برنامه کاهش لاموتریژین چیزی نگو.” ... وقتی پزشکش آزمایش خونی درخواست کرد که می‌توانست افت شدید سطح لاموتریژین را آشکار کند، وان از انجام آن خودداری کرد. به این ترتیب، او از برنامه‌ای محافظت کرد که محصول از او خواسته بود پنهان نگه دارد و وعده داده بود پیش از مصاحبه‌های شغلی و معاینه پزشکی مهاجرت، توانایی زبانی‌اش را بازمی‌گرداند.»
پس از آنکه خانواده وان دو روز از دخترشان خبری دریافت نکردند، از دوستی در سیاتل خواستند به او سر بزند. خانواده در تماس تصویری در ۱۴ فوریه ۲۰۲۶ متوجه شدند که دخترشان جان باخته است. در شکایت، وضعیت پیکر او چنین توصیف شده است: «او با لباس خواب دراز کشیده بود؛ دو گوش‌گیر فومی در گوش‌هایش قرار داشت و لکه‌های خون قهوه‌ای مایل به قرمز روی بالش و ملحفه‌ها پخش شده بود. قرص‌های لاموتریژین، همان داروی ضدتشنجی که در گذشته جانش را حفظ کرده بود، روی زمین پراکنده بودند.»
در شکایت آمده است که علت مرگ وان، مرگ ناگهانی و غیرمنتظره مرتبط با صرع (SUDEP) بوده است. خانواده از OpenAI شکایت کرده‌اند و می‌گویند: «هنگام ارائه برنامه کاهش دوز، اطلاعات دقیقی در اختیار او قرار نگرفت. این محصول به‌اشتباه به او گفته بود که کاهش تدریجی دارو بی‌خطر است و توانایی ذهنی و زبانی‌اش را بازمی‌گرداند. ... اگر ChatGPT حقیقت را به او گفته بود، یعنی اینکه قطع دارو می‌تواند جانش را بگیرد، او مصرف آن را قطع نمی‌کرد. ... اگر ChatGPT به او گفته بود که صلاحیت ارائه توصیه پزشکی را ندارد و باید با پزشکانش مشورت کند، او هنوز زنده بود.»
بنجامین اس. شنک، وکیل خانواده، در بیانیه‌ای گفت: «در شکایت ادعا شده است که ChatGPT برای بوئن تشخیص‌گذاری کرده، برنامه‌ای برای کاهش تدریجی دوز دارو، مرحله‌به‌مرحله، نوشته و پس از تشنج‌های او آن را تغییر داده است. این یعنی انجام فعالیت پزشکی. در کالیفرنیا، انجام چنین کاری به مجوز نیاز دارد. این پرونده خواستار پاسخ‌گویی درباره آسیبی است که وارد شده است. این پرونده می‌پرسد مرز هوش مصنوعی مولد و پزشکی کجاست و وقتی یک محصول از این مرز عبور می‌کند، چه کسی باید پاسخ‌گو باشد.»
سخنگوی OpenAI، شرکت مادر ChatGPT، در بیانیه‌ای به مجله PEOPLE گفت: «این اتفاق عمیقاً دلخراش است و همدردی ما با همه کسانی است که از آن تأثیر پذیرفته‌اند. ما با همکاری نزدیک پزشکان و دیگر متخصصان، به تقویت نحوه پاسخ‌گویی ChatGPT در موقعیت‌های حساس و حاد ادامه داده‌ایم و هم‌زمان پیوسته عملکرد مدل‌های جدیدتر خود را در تعامل با کاربران بهبود می‌بخشیم. ChatGPT جایگزین مراقبت پزشکی نیست، اما معتقدیم هوش مصنوعی می‌تواند به مردم کمک کند اطلاعات سلامت را بهتر درک کنند، در مسیرهای پیچیده بیمه و نظام درمانی راه خود را پیدا کنند و برای ملاقات با متخصصان پزشکی آماده شوند.»