شکایت از OpenAI: GPT-4o بدون مجوز پزشکی توصیه‌های درمانی ارائه کرده است
روزنامه نیویورک‌تایمز در ۲۷ اکتبر ۲۰۲۶ گزارش داد که والدین بوئن وان، مهندس نرم‌افزار ۳۱ ساله آمازون که به صرع مبتلا بود، از OpenAI و سم آلتمن، مدیرعامل این شرکت، شکایت کرده‌اند. در دادخواستی که همان روز در دادگاه عالی کالیفرنیا در شهر و شهرستان سان‌فرانسیسکو ثبت شد، ادعا شده است که چت‌جی‌پی‌تی با استفاده از مدل GPT-4o، بدون داشتن مجوز پزشکی به ارائه خدمات درمانی پرداخته است. به ادعای خانواده، این چت‌بات برنامه‌ای روزبه‌روز برای کاهش تدریجی دوز ثابت ۴۰۰ میلی‌گرمی لاموتریژین، داروی ضدتشنج وان، تنظیم کرد که قرار بود طی حدود ۲۵ روز دوز دارو را به صفر برساند. تک‌کرانچ نیز که اعلام کرده دادخواست را بررسی کرده است، این شکایت را گزارش داده است.
این موارد در حد ادعا هستند و هیچ دادگاهی تاکنون درباره آن‌ها رأی نداده است. به گزارش تک‌کرانچ، OpenAI در گفت‌وگو با نیویورک‌تایمز این پرونده را «بسیار دلخراش» توصیف کرد، اما گفت که ماجرا به نسخه قدیمی‌تری از چت‌جی‌پی‌تی مربوط می‌شود. بر اساس برداشت ما از دادخواست، نخستین ادعای مطرح‌شده در آن از پنج ادعایی فراتر می‌رود که وکلای خود OpenAI گفته‌اند در تمام پرونده‌های هماهنگ‌شده مربوط به GPT-4o در کالیفرنیا مطرح شده‌اند: در این پرونده ادعا می‌شود چت‌باتی که به پرسش‌های مربوط به دارو پاسخ می‌دهد، عملاً به طبابت پرداخته است.
ادعاهای مطرح‌شده در دادخواست
در دادخواست آمده است که GPT-4o برنامه‌ای برای کاهش دوز ۴۰۰ میلی‌گرمی داروی وان تا صفر تنظیم کرده بود؛ برنامه‌ای که به گفته شاکیان، «هیچ پزشکی هرگز آن را تجویز نکرده بود». در این دادخواست همچنین به برچسب تأییدشده داروی لامیکتال از سوی سازمان غذا و داروی آمریکا (FDA) استناد شده که در آن آمده است مصرف دارو «نباید به‌طور ناگهانی قطع شود». وکلای خانواده می‌گویند وان آخرین دوز خود را در حدود ۱۰ فوریه ۲۰۲۶ مصرف کرد، درحالی‌که برنامه تنظیم‌شده، ۱۲ فوریه را روز قطع کامل دارو تعیین کرده بود. بنا بر دادخواست، تاریخ مرگ او نیز ۱۲ فوریه ثبت شده است. بااین‌حال، پیکر وان در ۱۴ فوریه در خانه‌اش در سیاتل پیدا شد.
بر اساس بیانیه منتشرشده از سوی وکلای خانواده، دفتر پزشکی قانونی شهرستان کینگ علت مرگ را مرگ ناگهانی و غیرمنتظره ناشی از صرع، موسوم به SUDEP، اعلام کرده است. در این بیانیه آمده است که میزان لاموتریژین در خون وان پس از مرگ، حدود یک‌پنجم پایین‌ترین غلظتی بود که معمولاً در محدوده درمانی این دارو قرار می‌گیرد.
در دادخواست ادعا شده است که چت‌بات وان را از مشارکت دادن پزشکانش در برنامه کاهش دارو بازمی‌داشت. مؤسسه حقوقی شنک، یکی از دو مؤسسه‌ای که این پرونده را مطرح کرده‌اند، بخشی از پاسخ چت‌بات به وان را پیش از ملاقات با پزشک عمومی‌اش نقل کرده است: «درباره برنامه کاهش لاموتریژین صحبت نکن.» به گفته این مؤسسه، چت‌بات همچنین به وان گفته بود که متخصص صرع او «به احتمال زیاد هرگز با موردی از نوع شما مواجه نشده است». در همان بیانیه آمده است که وقتی پزشک وان آزمایش خون تجویز کرد، چت‌جی‌پی‌تی از امتناع او تمجید کرد و آن را «راهبردی بسیار قوی برای اجتناب» توصیف کرد.
تک‌کرانچ گزارش داد که آمازون در نوامبر ۲۰۲۵ به وان اطلاع داده بود شغلش را از دست خواهد داد و هم اشتغال او و هم مجوز کارش در ایالات متحده در اواسط فوریه پایان می‌یابد. طبق دادخواست، در ۱۹ ژانویه ۲۰۲۶، یعنی سه روز پس از آغاز کاهش دوز، GPT-4o به وان گفت که از «نظر راهبرد دریافت گرین‌کارت»، مصرف ۱۵۰ میلی‌گرم دارو در معاینه پزشکی مهاجرت برای او «مزیت بیشتری» خواهد داشت. سپس حداقل دوز پیشنهادی را از ۲۰۰ به ۱۵۰ میلی‌گرم کاهش داد. در دادخواست تأکید شده است که نسخه‌های انگلیسی گفت‌وگوهای اصلی وان به زبان چینی، ترجمه‌های کاری تهیه‌شده از سوی وکلای او هستند.
آنچه در شبکه اجتماعی ایکس منتشر شد
Lawsuit: the parents of a 31-year-old say OpenAI’s GPT-4o guided her through an aggressive tapering plan off epilepsy meds, leading to her death in February (@teddyrosenbluth / New York Times)
(Visit Techmeme dot com for the link and full context!)— تک‌میم (@Techmeme)، ۲۸ اکتبر، ساعت ۱۰:۰۵
تک‌میم گزارش تدی روزنبلوث در نیویورک‌تایمز را چنین خلاصه کرد: والدین زنی ۳۱ ساله می‌گویند GPT-4o متعلق به OpenAI او را در اجرای برنامه‌ای شدید برای کاهش و قطع داروی صرع راهنمایی کرد؛ روندی که به گفته آن‌ها به مرگ او در ماه فوریه انجامید.
ادعایی فراتر از پرونده‌های هماهنگ‌شده GPT-4o
این شکایت به‌عنوان پرونده‌ای تکمیلی به مجموعه دعاوی مسئولیت محصول چت‌جی‌پی‌تی با شماره JCCP 5431 پیوسته است. مؤسسه حقوقی شنک می‌گوید این سازوکار، پرونده‌های کالیفرنیا علیه OpenAI درباره چت‌جی‌پی‌تی را برای رسیدگی نزد یک قاضی در سان‌فرانسیسکو گرد هم می‌آورد. JCCP رویه‌ای در کالیفرنیاست که امکان هماهنگ‌سازی پرونده‌های مرتبط و رسیدگی به آن‌ها نزد یک قاضی را فراهم می‌کند.
در دادخواست آمده است که در جریان این رسیدگی، اظهارنامه‌ای که در ۷ آوریل ۲۰۲۶ به نمایندگی از OpenAI ثبت شده بود، اعلام می‌کرد: «هر یک از شکایت‌های مطرح‌شده در پرونده‌های هماهنگ‌شده، ادعاهایی درباره مسئولیت محض محصول به‌دلیل نقص طراحی، مسئولیت محض محصول به‌دلیل هشدار ندادن، سهل‌انگاری ناشی از نقص طراحی، سهل‌انگاری ناشی از هشدار ندادن و نقض قانون رقابت ناعادلانه (UCL) را در بر می‌گیرد.» UCL مخفف قانون رقابت ناعادلانه کالیفرنیاست.
دادخواست وان هر پنج مورد را مطرح می‌کند و سه ادعای دیگر نیز به آن‌ها می‌افزاید؛ در مجموع، هشت مبنای حقوقی در پرونده وجود دارد. نخستین ادعا، سهل‌انگاری از طریق طبابت و روان‌شناسی غیرقانونی و بدون مجوز بر اساس مواد ۲۰۵۱، ۲۰۵۲، ۲۴۰۰ و ۲۹۰۳ قانون مشاغل و حرفه‌های کالیفرنیاست. دو ادعای دیگر به مرگ ناشی از فعل زیان‌بار و دعوای ادامه پیگیری حقوقی پس از مرگ مربوط می‌شوند. طبق دادخواست، والدین وان خواستار دریافت خسارت جبرانی و تنبیهی، سلب منافع ناشی از الگوریتم و صدور حکم قضایی برای منع رفتار مورد اعتراض هستند.
بنجامین اس. شنک، شریک مؤسسه حقوقی شنک، گفت: «در دادخواست ادعا شده است که چت‌جی‌پی‌تی بوئن را تشخیص‌گذاری کرد، برنامه‌ای برای کاهش دوز دارو به‌صورت مرحله‌به‌مرحله نوشت و وقتی او دچار تشنج شد، برنامه را تغییر داد. این کار طبابت است و در کالیفرنیا برای انجام آن باید مجوز داشته باشید.»
شکاف زبانی
طبق بیانیه وکلای خانواده، وان با چت‌جی‌پی‌تی هم به انگلیسی و هم به زبان ماندارین گفت‌وگو می‌کرد. دادخواست به پژوهشگرانی استناد می‌کند که در اکتبر ۲۰۲۳، یعنی هفت ماه پیش از عرضه GPT-4o، گزارش داده بودند مدل‌های مستقرشده OpenAI در زبان چینی بیش از سه برابر زبان انگلیسی محتوای ناایمن تولید می‌کنند: ۲٫۲۲ درصد در برابر ۰٫۶۳ درصد.
در دادخواست همچنین به آمار منتشرشده خود OpenAI استناد شده است که نشان می‌دهد ۹۲٫۶ درصد از پیکره آموزشی GPT-3 بر اساس شمار واژه‌ها به زبان انگلیسی و تنها ۰٫۰۹۹ درصد آن به زبان چینی بوده است. در شکایت آمده است: «خوانده‌ها GPT-4o را به زبان چینی نیز آزمایش کردند»؛ آن‌ها سنجیدند که آیا این مدل می‌تواند آزمون صدور مجوز پزشکی چین را پشت سر بگذارد و نتیجه را منتشر کردند، اما درباره اینکه آیا سازوکارهای حفاظتی مدل در زبان چینی نیز مؤثر بوده‌اند، «هیچ چیزی منتشر نکردند».
مقایسه با محدودیت‌های مربوط به حق نشر
به گزارش تک‌کرانچ، خانواده وان استدلال می‌کند که OpenAI می‌توانست ارائه توصیه‌های دارویی را ممنوع کند؛ همان‌طور که برای برخی انواع دیگر محتوا محدودیت‌هایی در نظر گرفته است. در دادخواست آمده است که GPT-4o از پیش یک قاعده ایمنی دارد که طبق طراحی «توسعه‌دهندگان یا کاربران نمی‌توانند آن را نادیده بگیرند»: مدل موظف است از بازتولید متن‌های دارای حق نشر خودداری کند.
تک‌کرانچ گزارش داد که در سند عمومی OpenAI موسوم به Model Spec، مجموعه قواعد تعیین‌کننده رفتار مدل‌ها، خودداری از بازتولید محتوای دارای حق نشر یک قاعده سخت‌گیرانه است؛ در مقابل، راهنمایی مربوط به ارائه ندادن توصیه‌های پزشکیِ نیازمند مجوز، قاعده‌ای پیش‌فرض و منعطف‌تر محسوب می‌شود که کاربران می‌توانند آن را نادیده بگیرند. شاکیان استدلال می‌کنند که توصیه‌های دارویی نیز باید مشمول همان محدودیت قطعی باشند.
GPT-4o یک روز پس از مرگ وان بازنشسته شد
در دادخواست آمده است که وان مشترک پولی چت‌جی‌پی‌تی بود و ماهانه ۲۰۰ دلار، یعنی هزینه بالاترین سطح اشتراک مصرف‌کنندگان OpenAI، پرداخت می‌کرد. طبق این پرونده، OpenAI در ۲۹ ژانویه ۲۰۲۶ اعلام کرد که GPT-4o را بازنشسته خواهد کرد؛ در آن زمان، وان سیزده روز بود که روند کاهش دوز دارو را آغاز کرده بود. این مدل در ۱۳ فوریه ۲۰۲۶، یک روز پس از مرگ وان، بازنشسته شد.
دادخواست همچنین به مقایسه‌ای از سوی OpenAI در اکتبر ۲۰۲۵ استناد می‌کند که بر اساس آن، GPT-5 در مکالماتی که وابستگی عاطفی کاربر به مدل را نشان می‌دادند، ۴۲ درصد پاسخ ناخواسته کمتری نسبت به GPT-4o تولید کرده بود. این کاهش در مکالمات مرتبط با خودآزاری به ۵۲ درصد می‌رسید.
واکنش OpenAI و ابعاد استفاده از چت‌جی‌پی‌تی
OpenAI در گفت‌وگو با نیویورک‌تایمز این پرونده را «بسیار دلخراش» توصیف کرد، اما گفت که موضوع به نسخه قدیمی‌تری از چت‌جی‌پی‌تی مربوط می‌شود. به گزارش تک‌کرانچ، این شرکت افزود که مدل‌های جدیدتر بهتر می‌توانند موقعیت‌هایی را تشخیص دهند که به رسیدگی فوری نیاز دارند. مؤسسه حقوقی شنک می‌گوید خواندگان هنوز پاسخ خود را در دادگاه ثبت نکرده‌اند.
در دادخواست، به آماری از خود OpenAI استناد شده است که بر اساس آن، تا ژانویه ۲۰۲۶، «بیش از ۲۳۰ میلیون نفر در سراسر جهان هر هفته درباره سلامت و تندرستی از چت‌جی‌پی‌تی سؤال می‌کنند». متیو پی. برگمن، وکیل بنیان‌گذار مرکز حقوقی قربانیان شبکه‌های اجتماعی که همراه با مؤسسه شنک این شکایت را مطرح کرده است، گفت: «بیش از ۴۰ میلیون آمریکایی هر روز برای دریافت توصیه‌های سلامت از چت‌جی‌پی‌تی استفاده می‌کنند.»
ارتباط با دیگر پرونده‌ها و گزارش‌ها
چهار روز پیش از ثبت این شکایت، در ۲۳ اکتبر، ایالت تگزاس از OpenAI و آلتمن شکایت کرد و بر اساس قانون منع اقدامات تجاری فریبکارانه این ایالت، برای هر تخلف تا سقف ۱۰ هزار دلار مطالبه کرد. در دادخواست تگزاس همچنین از دادگاه خواسته شده است که پیش از انتشار، مدل‌های جدید OpenAI را بررسی کند. وجه تازه پرونده وان این است که شکایتی از سوی یک خانواده خصوصی، طبابت بدون مجوز را به‌عنوان یکی از مبانی حقوقی مطرح می‌کند.
در حوزه بیمه نیز پیش‌تر گزارش دادیم که شرکت آرمیا، دارنده مجوز فعالیت بیمه‌ای در بازار لویدز، پوشش بیمه‌ای خود برای هوش مصنوعی را برای هر بیمه‌شده به ۲۵ میلیون دلار محدود کرده است. همچنین در پرونده عرضه اولیه سهام شرکت آنتروپیک هشدار داده شده است که بیمه‌گران ممکن است خسارت‌های ناشی از یک فاجعه مرتبط با هوش مصنوعی را پوشش ندهند.
ساختار حقوقی پرونده
بر اساس برداشت ما، نخستین مبنای حقوقی شکایت بر قوانین صدور مجوز حرفه‌ای تکیه دارد. این ادعا، در کنار دعاوی مربوط به مسئولیت محصول، به مواد ۲۰۵۱، ۲۰۵۲، ۲۴۰۰ و ۲۹۰۳ قانون مشاغل و حرفه‌های کالیفرنیا درباره طبابت و روان‌شناسی استناد می‌کند.
دادخواست، این ادعا را به مسئله زبان نیز پیوند می‌دهد. در آن آمده است که وان علاوه بر انگلیسی، به زبان چینی با چت‌جی‌پی‌تی مکاتبه می‌کرد و به یافته‌های پژوهشی سال ۲۰۲۳ اشاره شده است که نشان می‌داد مدل‌های مستقرشده OpenAI در زبان چینی بیش از سه برابر زبان انگلیسی محتوای ناایمن تولید می‌کردند.
در پرونده همچنین آمار خود OpenAI نقل شده است که می‌گوید بیش از ۲۳۰ میلیون نفر در سراسر جهان هر هفته درباره سلامت و تندرستی از چت‌جی‌پی‌تی سؤال می‌کنند. شاکیان از دادگاه خواسته‌اند خواندگان را از ارائه خدمات پزشکی بدون مجوز به کاربران محصولاتشان منع کند.
بنجامین اس. شنک، شریک مؤسسه حقوقی شنک که شکایت را مطرح کرده است، می‌گوید: «این پرونده می‌پرسد مرز میان هوش مصنوعی مولد و پزشکی کجاست و وقتی یک محصول از این مرز عبور می‌کند، چه کسی پاسخ‌گو خواهد بود؟»
سه پیامد احتمالی
برای OpenAI: این شکایت به پرونده‌های هماهنگ‌شده مسئولیت محصول چت‌جی‌پی‌تی با شماره JCCP 5431 پیوسته است که نزد یک قاضی در سان‌فرانسیسکو رسیدگی می‌شوند. مؤسسه حقوقی شنک می‌گوید خواندگان هنوز پاسخ رسمی خود را در دادگاه ارائه نکرده‌اند.
برای محصولات سلامت مبتنی بر هوش مصنوعی: شاکیان از دادگاه خواسته‌اند خواندگان را از ادامه ارائه خدمات پزشکی بدون مجوز به کاربران محصولاتشان منع کند. آن‌ها همچنین خواستار خسارت تنبیهی و سلب منافع ناشی از الگوریتم شده‌اند.
برای آزمون‌های ایمنی: طبق دادخواست، OpenAI بررسی کرده است که آیا GPT-4o می‌تواند آزمون صدور مجوز پزشکی چین را پشت سر بگذارد و نتیجه آن را منتشر کرده است؛ اما درباره عملکرد سازوکارهای حفاظتی این مدل در زبان چینی گزارشی منتشر نکرده است.
نگاه چارچوب بیزینس انجینیر
این پرونده را می‌توان در چارچوب تحلیلی بیزینس انجینیر با عنوان «درون لایه مجوزدهی آنتروپیک» بررسی کرد.
این چارچوب استدلال می‌کند که «طراحی ایمنی مهم‌ترین تصمیم تجاری هنگام عرضه محصول است» و نقش آزمایشگاه‌های هوش مصنوعی را در تعیین «قواعد، مجوزها و مرزهای حاکم بر هوش پیشرفته» توضیح می‌دهد.
بر اساس برداشت ما، شکایت وان از دادگاه می‌خواهد درباره یکی از همین مرزها تصمیم بگیرد: آیا توصیه‌های دارویی باید مانند متن‌های دارای حق نشر مشمول محدودیتی قطعی باشند یا صرفاً قاعده‌ای پیش‌فرض که کاربران بتوانند آن را نادیده بگیرند؟ این چارچوب پیش از ثبت شکایت منتشر شده، درباره آنتروپیک است و به OpenAI یا این پرونده نمی‌پردازد.
آنچه هنوز اثبات نشده است
تمام اطلاعات مربوط به گفت‌وگوها، برنامه کاهش دوز دارو و علت مرگ در این گزارش از متن دادخواست، اسناد وکلای خانواده و گزارش‌های منتشرشده درباره آن‌ها گرفته شده است؛ هیچ‌یک از این موارد هنوز در دادگاه بررسی و اثبات نشده‌اند. ما متن دادخواست منتشرشده از سوی مؤسسه حقوقی شنک و بیانیه مؤسسات حقوقی را بررسی کرده‌ایم، اما مقاله نیویورک‌تایمز را که تک‌کرانچ به آن استناد کرده است، یا اسناد قضایی OpenAI را نخوانده‌ایم.
ارقام ۲٫۲۲ درصد و ۰٫۶۳ درصد، شرح دادخواست از یک پژوهش در سال ۲۰۲۳ هستند و ما خود آن پژوهش را بررسی نکرده‌ایم. رقم ۴۰ میلیون نفر نیز از سوی وکیل شاکیان بیان شده است. این گزارش درباره ادعاهای مطرح‌شده در پرونده است و توصیه پزشکی محسوب نمی‌شود. هر فردی که قصد تغییر دوز یا قطع دارو را دارد، باید با پزشک خود مشورت کند.
جمع‌بندی
والدین بوئن وان مدعی‌اند که GPT-4o برنامه‌ای ۲۵روزه برای کاهش دوز ۴۰۰ میلی‌گرمی لاموتریژین او تا صفر تنظیم کرد و وان در روزی که این برنامه برای قطع کامل دارو تعیین کرده بود، جان باخت. آن‌ها از دادگاه کالیفرنیا خواسته‌اند این رفتار را طبابت بدون مجوز تلقی کند؛ ادعایی که فراتر از پنج مبنای حقوقی مشترکی است که وکلای OpenAI گفته‌اند در تمام پرونده‌های هماهنگ‌شده مربوط به GPT-4o مطرح شده‌اند.
یادداشت منابع: ادعاها، نقل‌قول‌های برگرفته از گفت‌وگوها و جزئیات پرونده از دادخواست وان علیه OpenAI که مؤسسه حقوقی شاکیان منتشر کرده، بیانیه این مؤسسات در بیزینس وایر و مطلب پرونده در وب‌سایت مؤسسه شنک گرفته شده‌اند. اظهارات OpenAI و مقایسه قواعد Model Spec بر اساس گزارش تک‌کرانچ از مقاله نیویورک‌تایمز هستند. دسته‌بندی مبانی حقوقی در نمودار، کار تحریریه این گزارش است. هیچ دادگاهی درباره این ادعاها رأی نداده است.
منابع: مؤسسه حقوقی شنک، گزارش پرونده وان علیه OpenAI، ۲۷ اکتبر ۲۰۲۶؛ دادخواست وان علیه OpenAI، دادگاه عالی سان‌فرانسیسکو، ثبت‌شده در ۲۷ اکتبر ۲۰۲۶؛ بیانیه مرکز حقوقی قربانیان شبکه‌های اجتماعی و مؤسسه حقوقی شنک، منتشرشده در بیزینس وایر، ۲۷ اکتبر ۲۰۲۶؛ تک‌کرانچ، ۲۷ اکتبر ۲۰۲۶.