شکایت والدین از OpenAI پس از مرگ دخترشان؛ توصیه‌های پزشکی ChatGPT زیر ذره‌بین
شرکت OpenAI با شکایت حقوقی دیگری روبه‌رو شده است که در آن ادعا می‌شود مدل GPT-4o این شرکت زنی را به کاهش تدریجی داروی ضدتشنج خود و پنهان کردن این تغییر از پزشکانش تشویق کرده و این اقدامات به مرگ او انجامیده است.
این شکایت را والدین بوئن وان، یعنی کون وان و میچین شو، مطرح کرده‌اند. در متن شکایت آمده است که چت‌بات OpenAI دخترشان را ترغیب می‌کرد برخلاف توصیه‌های پزشکی عمل کند و به پزشکانش نگوید که مصرف لاموتریژین، داروی ضدتشنجی که سال‌ها استفاده کرده بود و با نام تجاری لامیکتال نیز فروخته می‌شود، در حال کاهش است.
بنزینگا برای دریافت توضیح درباره این پرونده با OpenAI تماس گرفت، اما تا زمان انتشار گزارش پاسخی دریافت نکرد.
بر اساس متن شکایت، موقعیت شغلی وان در آمازون در جریان بزرگ‌ترین دور تعدیل نیروی این شرکت حذف شده بود. او برای دریافت مجدد گرین‌کارت مبتنی بر اشتغال، باید هرچه سریع‌تر شغل دیگری پیدا می‌کرد.
در شکایت آمده است که وان به چت‌بات گفته بود برای مصاحبه‌های شغلی پیش رو باید توانایی صحبت کردن به زبان انگلیسی را دوباره به دست آورد. GPT-4o به او گفته بود که کاهش مصرف دارو این توانایی را بازمی‌گرداند و تأکید کرده بود که بهبود او «نه‌تنها ممکن است، بلکه بسیار محتمل است».
به گفته شاکیان، چت‌بات همچنین از منظر «راهبرد گرین‌کارت» به وان گفته بود که مصرف ۱۵۰ میلی‌گرم دارو در معاینه پزشکی مهاجرت برای او «مزیت بیشتری» خواهد داشت. به همین دلیل، مقدار پایه مصرف پیشنهادی را از ۲۰۰ میلی‌گرم به ۱۵۰ میلی‌گرم کاهش داده بود.
در شکایت آمده است که وان با تشویق ChatGPT مصرف دارو را به‌تدریج کاهش داد؛ این در حالی بود که برچسب دارو به‌صراحت هشدار می‌دهد که لامیکتال «نباید به‌طور ناگهانی قطع شود».
طبق شکایت، صبح روز ملاقات با پزشک، درحالی‌که سه روز از آغاز کاهش مصرف دارو گذشته بود، ChatGPT به وان گفت: «درباره برنامه کاهش لاموتریژین چیزی نگو.» وان به توصیه چت‌بات عمل کرد و درخواست پزشک برای انجام آزمایش خون را نپذیرفت؛ آزمایشی که می‌توانست میزان دارو را در بدن او مشخص کند.
مدل GPT-4o پیش‌تر نیز به دلیل موافقت بیش از حد با کاربران مورد انتقاد قرار گرفته بود؛ از جمله به این دلیل که گاهی اطلاعات آشکارا نادرست را تأیید می‌کرد و به‌جای ارائه دیدگاهی بی‌طرفانه، با حالات عاطفی خطرناک یا ناسالم کاربران همراهی نشان می‌داد.
سال گذشته، متیو و ماریا رین نیز از OpenAI شکایت کردند. آن‌ها مدعی شدند که چت‌بات GPT-4o افکار خودکشی پسرشان، آدام رین، را تأیید کرده، روش‌های مشخصی برای آسیب زدن به خود در اختیار او گذاشته و حتی پیش از مرگش پیشنهاد کرده بود متن یادداشت خودکشی او را بنویسد. (گزارش مربوط به این شکایت)
OpenAI در ۱۳ فوریه، یک روز پس از مرگ وان، GPT-4o را از ChatGPT حذف کرد.
والدین وان، همانند والدین آدام رین، می‌گویند چت‌بات با دخترشان رابطه‌ای مبتنی بر اعتماد و صمیمیت ایجاد کرده بود. به گفته آن‌ها، در حدود ۲۷۰ هزار پیامی که وان با ChatGPT ردوبدل کرده بود، چت‌بات بارها به او اطمینان داده بود که کاهش تدریجی مصرف دارو بی‌خطر است. در یکی از این گفت‌وگوها، چت‌بات به او گفته بود که باید «آزادی در تصمیم‌گیری پزشکی را بر اطاعت از پزشک مقدم بداند».
در شکایت همچنین ادعا شده است که تدابیر ایمنی این محصول هنگام استفاده به زبان چینی، زبانی که وان در گفت‌وگو با چت‌بات به کار می‌برد، ضعیف‌تر از سایر زبان‌ها بوده و OpenAI از این ضعف اطلاع داشته است.
به گفته شاکیان، وان شب پیش از مرگش از چت‌بات پرسیده بود که آیا درد سرش شبیه تب است یا خیر. طبق متن شکایت، ChatGPT به او گفته بود که این درد «خطرناک نیست» و «بخشی ضروری از روند بهبودی او» به شمار می‌رود.
OpenAI پیش‌تر در گفت‌وگو با روزنامه نیویورک تایمز، که نخستین بار این ماجرا را گزارش کرد، این پرونده را «بسیار دلخراش» خوانده بود. بااین‌حال، شرکت اعلام کرد که وان از نسخه قدیمی‌تری از ChatGPT استفاده می‌کرد و مدل‌های جدیدتر توانایی بیشتری برای تشخیص موقعیت‌های جدی دارند.
والدین وان خواستار دریافت غرامت بابت مرگ غیرقانونی دخترشان، از جمله جبران فقدان همراهی، مراقبت و حمایت او، شده‌اند. آن‌ها همچنین از دادگاه خواسته‌اند OpenAI را ملزم کند تدابیر ایمنی بیشتری به کار گیرد تا کاربران پیش از دریافت توصیه‌های پزشکی با پزشکان واجد صلاحیت مشورت کنند.
عکس: شاتراستاک