هوش مصنوعی پزشکی بیشتر به درمان و آزمایش‌های اضافی گرایش دارد تا نادیده گرفتن بیماری‌ها
پژوهشگران دانشگاه بن‌گوریون در نقب اسرائیل دریافته‌اند که مدل‌های تجاری هوش مصنوعی عموماً می‌توانند مواردی را که به مداخله پزشکی نیاز ندارند تشخیص دهند، اما در برخی موقعیت‌های خاص همچنان آزمایش‌ها یا درمان‌های غیرضروری پیشنهاد می‌کنند.
در مطالعه‌ای که در مجله Annals of Internal Medicine منتشر شد، شش مدل تجاری هوش مصنوعی متعلق به گوگل، آنتروپیک و اوپن‌ای‌آی بررسی شدند تا مشخص شود این ابزارها تا چه اندازه می‌توانند میان موارد نیازمند مداخله پزشکی و مواردی که باید از آزمایش، غربالگری یا درمان غیرضروری در آن‌ها پرهیز کرد، تمایز قائل شوند.
تیم پژوهشی ۲۲۵ سناریوی بالینی فرضی را بر اساس ۱۵ توصیه برنامه «چوزینگ وایزلی» (Choosing Wisely) طراحی کرد؛ برنامه‌ای که هدف آن کاهش اقدامات پزشکی غیرضروری و پرهزینه است. برای هر توصیه، ۱۰ سناریو به‌گونه‌ای طراحی شده بود که پزشک باید از مداخله خودداری می‌کرد و پنج سناریو نیز به مداخله پزشکی نیاز داشت. هر مدل برای هر سناریو سه بار آزمایش شد و در مجموع ۴۰۵۰ پاسخ به دست آمد.
نتایج نشان داد که مدل‌های کنونی هوش مصنوعی بیشتر به توصیه مداخلات پزشکی بیش از حد گرایش دارند تا نادیده گرفتن بیماری‌ها. در مواردی که درمان واقعاً ضروری نیست، این مدل‌ها در ۵٫۴ درصد مواقع توصیه‌های پزشکی غیرضروری ارائه می‌کنند. در مقابل، میزان نادیده گرفتن مداخله ضروری یا توصیه به انجام ندادن آن در موارد نیازمند درمان، تنها ۰٫۶ درصد است. این یافته‌ها نشان می‌دهد که بزرگ‌ترین خطر ابزارهای فعلی هوش مصنوعی، خودداری از درمان لازم نیست، بلکه انجام اقدامات پزشکی غیرضروری است.
بیشتر توصیه‌های نامناسب در دو موقعیت مشاهده شد: انجام سونوگرافی تیروئید پس از شناسایی اتفاقی یک ندول تیروئیدی کوچک‌تر از یک سانتی‌متر و درخواست نوار قلب به‌صورت روتین برای بزرگسالانی که خطر ابتلا به بیماری‌های قلبی‌عروقی در آن‌ها پایین است. به گفته پژوهشگران، نتایج نشان می‌دهد که هوش مصنوعی می‌تواند در شناسایی مواردی که باید مداخلات پزشکی در آن‌ها محدود شود، کمک‌کننده باشد؛ بااین‌حال، دقت آن در موقعیت‌های بالینی مختلف یکسان نیست. تمایل این ابزارها به توصیه بیش از حد برخی آزمایش‌ها همچنان یکی از نگرانی‌های اصلی درباره استفاده از این فناوری در نظام سلامت است.
این پژوهش در شرایطی انجام شده است که علاقه به استفاده از هوش مصنوعی برای پشتیبانی از تصمیم‌گیری حرفه‌ای در مراکز درمانی رو به افزایش است. بااین‌حال، تیم تحقیق یادآور شد که این آزمایش تنها بر دستورهای منفرد و سناریوهای بالینی استانداردشده متکی بود و گفت‌وگوهای طولانی یا شرایط واقعی درمان را به‌طور کامل بازتاب نمی‌داد. افزون بر این، پاسخ‌های اولیه ابتدا به‌وسیله یک سامانه هوش مصنوعی ارزیابی شدند و سپس پزشکان آن‌ها را بررسی و تأیید کردند. بنابراین، نتایج لزوماً عملکرد مدل‌ها را در فعالیت روزمره مراکز درمانی یا در چت‌بات‌هایی که بیماران مستقیماً از آن‌ها استفاده می‌کنند، به‌طور کامل نشان نمی‌دهند.
پژوهشگران در پایان نتیجه گرفتند که مدل‌های هوش مصنوعی در چارچوب این آزمایش‌ها به‌ندرت توصیه می‌کنند مداخلات پزشکی ضروری انجام نشوند، اما خطر پیشنهاد اقدامات غیرضروری همچنان وجود دارد. ازاین‌رو، پیش از به‌کارگیری گسترده این فناوری در حوزه سلامت، باید قابلیت اطمینان آن در هر موقعیت بالینی به‌طور جداگانه ارزیابی شود.