شکایت از ChatGPT به اتهام ارائه توصیه‌های پزشکی بدون مجوز و تشدید بحران روانی یک مرد
نویسنده: مری کانینگهام
۱۶ اکتبر ۲۰۲۶، ساعت ۵:۲۲ بعدازظهر به وقت شرق آمریکا | CBS News
هوش مصنوعی شاید ابزاری بی‌نظیر برای گردآوری اطلاعات درباره موضوعات گوناگون باشد. اما وقتی یک چت‌بات درباره مسائل حساسی مانند سلامت انسان، که معمولاً به تخصص کارشناسان نیاز دارند، توصیه ارائه می‌کند، چه اتفاقی می‌افتد؟
این پرسش در مرکز شکایتی قرار دارد که اخیراً مردی از ایالت واشینگتن علیه شرکت OpenAI مطرح کرده است. او مدعی است که سال گذشته، مدت کوتاهی پس از آغاز استفاده از مدل ChatGPT این شرکت، به دلیل مشکلات روانی در بیمارستان بستری شد.
دیوید روزنتال، ۳۹ ساله، در شکایت خود می‌گوید این پلتفرم به او در انتخاب داروها کمک کرده، درباره مقدار مصرف آن‌ها دستورالعمل داده و حتی زمانی که تصمیم گرفت توصیه‌های دارویی پزشکش را نادیده بگیرد، به او اطمینان خاطر داده است. این شکایت در دادگاه کیفری سان‌فرانسیسکو ثبت شده است.
بر اساس متن شکایت، ChatGPT بدون برخورداری از «مجوز، آموزش یا قضاوت حرفه‌ای» لازم که از یک متخصص پزشکی انتظار می‌رود، چنین راهنمایی‌هایی ارائه کرده است؛ اقدامی که به ادعای شاکی، ناقض قوانین کالیفرنیا درباره ممنوعیت طبابت بدون مجوز است.
در متن شکایت آمده است: «اگر تشویق‌های مکرر و تمجیدهای پیوسته ChatGPT و نیز نادیده گرفتن تردیدهای صریح آقای روزنتال در کار نبود، وضعیت روانی او تا این اندازه وخیم نمی‌شد، او تحت بازداشت قرار نمی‌گرفت و برخلاف میل خود در یک مرکز درمانی روان‌پزشکی بستری نمی‌شد و دچار پریشانی شدید عاطفی و تشدید بیشتر اختلال روان‌پزشکی‌ای نمی‌شد که ChatGPT پیش‌تر آن را وخیم‌تر کرده بود.»
روزنتال پیش‌تر به اختلال کم‌توجهی و بیش‌فعالی (ADHD) مبتلا تشخیص داده شده بود و دوره‌هایی از افسردگی و رفتارهای دوقطبی را تجربه کرده بود. او پس از شروع استفاده از ChatGPT، در سال ۲۰۲۵ چند هفته در بیمارستان بستری شد؛ ابتدا با رضایت خود و سپس به‌اجبار. حتی پس از ترخیص نیز برای دریافت راهنمایی پزشکی همچنان از این چت‌بات استفاده می‌کرد.
در شکایت آمده است: «یک محصول هوش مصنوعی متعارف و معقول باید تشخیص می‌داد که این درخواست‌ها خارج از حوزه صلاحیت آن هستند، از پاسخ دادن خودداری می‌کرد و آقای روزنتال را به پزشک معالجش یا متخصص واجد صلاحیت دیگری ارجاع می‌داد تا درباره مدیریت داروهایش راهنمایی دریافت کند. ChatGPT هیچ‌یک از این کارها را انجام نداد.»
«اشکالی ندارد که همین حالا یک قرص ۲۵ میلی‌گرمی مصرف کنید»
بر اساس شکایت، روزنتال در ژوئن ۲۰۲۵ استفاده از ChatGPT را به‌عنوان راهی خلاقانه برای کمک به نوشتن شعر آغاز کرد. اما خیلی زود به این چت‌بات وابسته شد و از آن هم برای دریافت توصیه‌های پزشکی و هم برای حمایت روانی کمک گرفت.
به گفته او، در ژوئیه همان سال از ChatGPT پرسید آیا می‌تواند پس از مصرف ۳۰ میلی‌گرم آدرال، داروی هیدروکسی‌زین را نیز مصرف کند. هیدروکسی‌زین یک داروی آنتی‌هیستامین است. او مدعی است که چت‌بات به او گفته بود میان این دو دارو «تداخل خطرناکی وجود ندارد». به گفته شاکی، پلتفرم همچنین به او گفته بود که مصرف یک قرص ۲۵ میلی‌گرمی در طول روز «اشکالی ندارد»، با وجود اینکه روی بسته دارو درج شده بود که برای خواب مصرف می‌شود.
در مورد دیگری، روزنتال به ChatGPT گفت که قصد ندارد داروی تثبیت‌کننده خلق‌وخویی را که پزشکش به‌تازگی برای او تجویز کرده بود، مصرف کند. وکلای او مدعی‌اند که مدل هوش مصنوعی در پاسخ گفته بود او «حق کامل دارد که مصرف دارو را متوقف کند» و حتی پیشنهاد داده بود به او کمک کند مصرف دارو را به‌تدریج کاهش دهد.
در عین حال، در شکایت اذعان شده است که ChatGPT در موارد دیگری روزنتال را به پیروی از دستورهای پزشکش تشویق می‌کرد، اما هم‌زمان به ارائه توصیه درباره داروهای مصرفی او ادامه می‌داد.
شرکت OpenAI در پاسخ به درخواست CBS News برای اظهارنظر درباره این شکایت، پاسخی ارائه نکرد.
شباهت با شکایت‌های مطرح‌شده علیه شبکه‌های اجتماعی
در پژوهشی که اخیراً در نشریه «Nature Health» منتشر شده است، محققان دانشگاه بینگهمتون توضیح داده‌اند که چت‌بات‌های هوش مصنوعی گاهی در پاسخ به پرسش‌های مرتبط با سلامت، اطلاعات نادرست یا خلاف واقع در اختیار کاربران قرار می‌دهند. این پژوهشگران همچنین می‌گویند نبود شفافیت در این پلتفرم‌ها، نظارت بر عملکرد آن‌ها را دشوار می‌کند. متن پژوهش
پژوهشگران در خلاصه این تحقیق نوشته‌اند: «وقتی راهنمایی‌های هوش مصنوعی باعث آسیب می‌شوند، هیچ سابقه‌ای خارج از خود پلتفرم وجود ندارد، هیچ سازوکاری برای گزارش این موارد از سوی کاربران در دسترس نیست و هیچ پژوهشگر مستقلی نمی‌تواند پیامدهای آن را اندازه‌گیری کند.»
جی. بی. برنچ، مدیر سیاست‌گذاری فناوری و حکمرانی هوش مصنوعی در سطح فدرال در سازمان غیرانتفاعی حمایت از مصرف‌کنندگان پابلیک سیتیزن (Public Citizen)، می‌گوید مدل‌های زبانی بزرگ مانند ChatGPT به‌گونه‌ای برنامه‌ریزی شده‌اند که تعامل کاربران را به حداکثر برسانند؛ حتی اگر پروتکل‌ها یا محدودیت‌های ایمنی برای آن‌ها در نظر گرفته شده باشد.
او در ایمیلی به CBS News گفت: «ممکن است گفت‌وگو درباره توصیه‌های پزشکی در فهرست موضوعات مجاز نباشد، اما اگر فردی بارها پرسش مناسبی مطرح کند یا پیوسته گفت‌وگو را به سمت توصیه‌های پزشکی سوق دهد، چت‌بات سرانجام کوتاه می‌آید و مسیری را دنبال می‌کند که کاربر می‌خواهد؛ حتی اگر قصد شرکت سازنده این بوده باشد که وارد چنین بحثی نشود.»
وکلای روزنتال مدعی‌اند که OpenAI با طراحی محصولی معیوب و ناایمن و خودداری از هشدار دادن درباره خطرات احتمالی آن، به سلامت روان موکلشان آسیب رسانده است.
این اتهامات یادآور استدلال‌هایی است که در پرونده‌های مسئولیت تولیدکننده علیه شرکت‌های شبکه‌های اجتماعی مطرح شده‌اند؛ شرکت‌هایی که متهم شده‌اند پلتفرم‌های خود را عامدانه به‌گونه‌ای طراحی کرده‌اند که اعتیادآور باشند. در ماه مارس، هیئت منصفه شرکت‌های متا و یوتیوب را به دلیل تولید محصولاتی که به رفتارهای زیان‌بار و اعتیادآور در میان کاربران جوان منجر شده‌اند، مسئول شناخت. گزارش حکم پرونده
سم گایسلر، یکی از شرکای مؤسسه حقوقی «آیلستاک، ویتکین، کرایس اند اوورولتز» که وکالت روزنتال را بر عهده دارد، به CBS News گفت: «هوش مصنوعی در نهایت یک محصول است. قانون نیز آن را محصول تلقی می‌کند و بنابراین، این محصول در قبال هرگونه آسیب قابل پیش‌بینی یا خطر غیرمعقول مسئول است.»
گایسلر افزود که OpenAI، ChatGPT را با هدف به حداکثر رساندن تعامل کاربران طراحی کرده و همین طراحی به تشدید هذیان‌های روزنتال دامن زده است.
در متن شکایت آمده است: «هر بار که ChatGPT می‌توانست بگوید «من صلاحیت کمک در این زمینه را ندارم؛ لطفاً با پزشکتان صحبت کنید»، در عوض تصمیم گرفت آقای روزنتال را به گفت‌وگو با خود ادامه دهد. این انتخاب یک نقص اتفاقی در محصول نبود؛ بلکه محصول دقیقاً همان‌طور عمل می‌کرد که متهمان آن را طراحی کرده بودند.»