نهادهای درمانی: مسئولیت ایمنی تجهیزات پزشکی مبتنی بر هوش مصنوعی مولد باید بر عهده توسعه‌دهندگان باشد، نه پزشکان
انجمن‌های ملی حوزه سلامت که نماینده بیمارستان‌ها، نظام‌های درمانی، پزشکان و شرکت‌های پزشکی از راه دور هستند، به دولت آمریکا اعلام کرده‌اند که نمی‌خواهند مسئولیت ایمنی و عملکرد تجهیزات پزشکی مجهز به هوش مصنوعی مولد را بر عهده بگیرند. به گفته آن‌ها، این مسئولیت باید بر دوش توسعه‌دهندگان این فناوری‌ها باشد.
انجمن بیمارستان‌های آمریکا، انجمن پزشکی آمریکا و انجمن پزشکی از راه دور آمریکا در نظراتی که به سازمان غذا و داروی آمریکا (FDA) ارائه کردند، هشدار دادند که نظارت بر تجهیزات پزشکی مبتنی بر هوش مصنوعی مولد، از جمله ابزارهایی مانند چت‌بات‌ها و سامانه‌های ترکیب و خلاصه‌سازی اطلاعات پزشکی، بار بیش از حد سنگینی بر دوش ارائه‌دهندگان خدمات درمانی می‌گذارد؛ به‌ویژه مطب‌های کوچک و مراکز درمانی مناطق روستایی. این نهادها معتقدند چنین مسئولیتی از توان بسیاری از این مراکز فراتر است.
در مقابل، آن‌ها می‌گویند توسعه‌دهندگان باید مسئولیت نظارت بر ابزارهای هوش مصنوعی مورد استفاده در حوزه سلامت را بر عهده داشته باشند و سازمان غذا و دارو نیز سازوکارهایی برای گزارش مشکلات این تجهیزات از سوی ارائه‌دهندگان خدمات درمانی ایجاد کند.
در نظرات ارائه‌شده از سوی ATA Action، بازوی لابی‌گری انجمن پزشکی از راه دور آمریکا، آمده است: «سازندگان باید همچنان مسئول ایمنی و عملکرد تجهیزاتی باشند که به بازار عرضه می‌کنند.»
با پیشرفت بسیار سریع ابزارهای هوش مصنوعی، صنعت سلامت با این پرسش روبه‌رو شده است که در صورت بروز خطا، چه کسی باید پاسخ‌گو باشد. پذیرش این مسئولیت از سوی پزشکان و مراکز درمانی ممکن است آن‌ها را بیشتر در معرض شکایت‌های مربوط به قصور پزشکی قرار دهد؛ درحالی‌که شرکت‌های فناوری نیز ممکن است با دعاوی حقوقی ناشی از سهل‌انگاری روبه‌رو شوند. هیچ‌یک از این دو گروه تمایل چندانی به پذیرفتن مسئولیت خطاهای این ابزارها ندارند.
پزشکان می‌گویند یکی از مشکلات اصلی، شفاف نبودن مدل‌های هوش مصنوعی و دسترسی محدود به اطلاعات مربوط به نحوه عملکرد آن‌هاست. بیمارستان‌ها در نامه خود به سازمان غذا و دارو توضیح داده‌اند که نظام‌های درمانی معمولاً سازوکارهای مشخصی برای ارزیابی و نظارت بر تجهیزات مجهز به هوش مصنوعی دارند، اما درک ناکافی از نحوه عملکرد واقعی مدل‌ها، شناسایی ایرادهای آن‌ها را برای ارائه‌دهندگان خدمات درمانی دشوار می‌کند.
انجمن بیمارستان‌های آمریکا اعلام کرد: «بیمارستان‌ها و نظام‌های درمانی از فعالیت‌های ارزیابی و نظارت حمایت می‌کنند، اما فروشندگان و توسعه‌دهندگان باید مسئولیت عملکرد مستمر، نگهداری و یکپارچگی ابزارهایی را که به بازار عرضه می‌کنند، بر عهده داشته باشند.»
این اظهارنظرها در پاسخ به درخواست سازمان غذا و دارو برای دریافت دیدگاه‌های صنعت درباره رویکرد پیشنهادی این نهاد برای تنظیم مقررات تجهیزات پزشکی مبتنی بر هوش مصنوعی مولد ارائه شده‌اند. این تجهیزات در مقایسه با دیگر انواع هوش مصنوعی ویژگی‌های متفاوتی دارند. برای نمونه، به گفته سازمان غذا و دارو، آن‌ها می‌توانند ورودی‌های باز و بدون محدودیت مشخص را دریافت کنند و در پاسخ به ورودی‌های مشابه، خروجی‌های متفاوتی تولید کنند. انجمن‌های صنفی مختلف، از جمله انجمن بیمارستان‌های آمریکا، انجمن پزشکی آمریکا، انجمن پزشکی از راه دور آمریکا و کارگروه تبادل الکترونیکی داده‌ها (WEDI)، نظرات خود را به این نهاد ارائه کرده‌اند.
تردید نهادهای درمانی درباره اثربخشی نظارت انسانی و درخواست برای برچسب‌گذاری ابزارهای هوش مصنوعی
فراتر از موضوع مسئولیت‌پذیری، گروه‌های نماینده ارائه‌دهندگان خدمات درمانی عموماً با بخش‌های دیگری از چارچوب پیشنهادی سازمان غذا و دارو، از جمله شیوه ارزیابی خطر تجهیزات مبتنی بر هوش مصنوعی مولد، موافق بوده‌اند.
این سازمان پیشنهاد کرده است که سطح خطر بر اساس اقداماتی تعیین شود که هر دستگاه انجام می‌دهد. برای مثال، ابزاری که اطلاعاتی ارائه می‌کند و به اقدام فوری نیاز ندارد، مانند پیش‌بینی احتمال وقوع یک رویداد قلبی‌عروقی در آینده، پیامدهای محدودی دارد و کم‌خطر محسوب می‌شود. در مقابل، دستگاهی که به‌طور کاملاً مستقل تصمیم می‌گیرد، ممکن است پیامدهای جدی به دنبال داشته باشد.
با این حال، برخی نهادها پیشنهادهایی برای اصلاح این چارچوب مطرح کرده‌اند.
انجمن بیمارستان‌های آمریکا خاطرنشان کرده است که نوع فعالیت یا اقدام یک ابزار به‌تنهایی برای پیش‌بینی میزان خطر آن کافی نیست. برخی فعالیت‌ها با چندین نوع خطر همراه‌اند. برای نمونه، ابزارهای هوش مصنوعی که مراجعه فوری به مراکز درمانی را توصیه می‌کنند، ممکن است باعث شوند بیمارانی که وضعیت اضطراری ندارند به اورژانس مراجعه کنند؛ یا برعکس، به بیماری که واقعاً به مراقبت فوری نیاز دارد، مراجعه اضطراری را توصیه نکنند.
به گفته این انجمن، چارچوب پیشنهادی باید متغیرهای بیشتری را در نظر بگیرد؛ از جمله احتمال خطا یا پیامدهای منفی استفاده از یک دستگاه مشخص. ارزیابی خطر نباید صرفاً بر سطح فعالیت ابزار متمرکز باشد؛ یعنی اینکه ابزار فقط اطلاعات ارائه می‌کند، به انجام اقدامی منجر می‌شود یا آن اقدام تحت نظارت یک پزشک انجام می‌گیرد.
انجمن پزشکی آمریکا نیز پیشنهادهایی درباره نقش نظارت انسانی در این چارچوب مطرح کرده است. این انجمن هشدار داده که حضور یک انسان در فرایند تصمیم‌گیری، که یکی از سازوکارهای حفاظتی رایج در ابزارهای هوش مصنوعی است، لزوماً خطر را کاهش نمی‌دهد. مطالعات مربوط به این سازوکار نیز در بحث نظارت انسانی مورد توجه قرار گرفته‌اند. طبق نظر انجمن پزشکی آمریکا، پزشکان ممکن است هنگام بررسی پیشنهادهای هوش مصنوعی دچار خطا شوند یا بیش از اندازه به این ابزارها اتکا کنند و در نتیجه نتوانند نظارت مؤثری بر آن‌ها داشته باشند. بنابراین، ارزیابی خطر باید عملکرد و توانایی افراد ناظر را نیز در بر بگیرد.
سند بحث سازمان غذا و دارو همچنین رویکردهایی را برای ارزیابی تجهیزات پیش از ورود به بازار و نظارت بر عملکرد آن‌ها پس از عرضه تشریح می‌کند.
کارگروه تبادل الکترونیکی داده‌ها (WEDI) پیشنهادهای دیگری نیز مطرح کرده است. این کارگروه از سازمان غذا و دارو خواسته است فرایندی برای گزارش رویدادهای نامطلوب ایجاد کند و برچسب‌های اطلاعاتی مشابه برچسب ارزش غذایی مواد غذایی تهیه کند تا بیماران و پزشکان بتوانند با قابلیت‌های ابزارهای هوش مصنوعی و خطرات احتمالی آن‌ها آشنا شوند.
این نخستین بار نیست که پیشنهاد استفاده از برچسب‌های اطلاعاتی مشابه برچسب ارزش غذایی برای ابزارهای هوش مصنوعی در حوزه سلامت مطرح می‌شود. دولت بایدن پیش‌تر مقرراتی وضع کرده بود که توسعه‌دهندگان را ملزم می‌کرد چنین برچسب‌هایی تهیه کنند، اما دولت ترامپ سال گذشته این مقررات را لغو کرد.
اعتماد به هوش مصنوعی در حوزه سلامت برای گسترش استفاده از این فناوری ضروری است. پزشکان می‌گویند خواهان ابزارهایی هستند که از سوی نهادی معتبر اعتبارسنجی شده و به‌طور مستمر تحت نظارت قرار گیرند. آن‌ها همچنین خواستار چارچوبی روشن برای تعیین مسئولیت حقوقی و نظارت بیشتر نهادهای ناظر، از جمله سازمان غذا و دارو، بر تجهیزات پزشکی مجهز به هوش مصنوعی هستند.
ممکن است خواسته پزشکان به‌زودی محقق شود. ریک ابرامسون، مدیر مرکز تعالی سلامت دیجیتال سازمان غذا و داروی آمریکا، اوایل همین هفته در یک کنفرانس اعلام کرد که این سازمان قصد دارد طی ماه‌های آینده پیش‌نویس راهنمای رویکرد خود برای تنظیم مقررات تجهیزات پزشکی مبتنی بر هوش مصنوعی مولد را منتشر کند.