دکتر جکیل و آقای هاید؛ چگونه میان فرصت‌ها و خطرات هوش مصنوعی تعادل برقرار کنیم؟
۲۳ اکتبر ۲۰۲۶
نویسنده: برندان روش
سرمایه‌گذاری یک میلیارد دلاری آنتروپیک در نظارت مستمر و مستقل بر هوش مصنوعی و پیامدهای آن برای مدیران نظام سلامت استرالیا.
بنیان‌گذار شرکت آنتروپیک به‌شدت درگیر ماهیت دوگانه هوش مصنوعی و آینده‌ای است که این فناوری رقم خواهد زد. آیا هوش مصنوعی سرانجام ما را به روز داوری آخرالزمانی، شبیه آنچه در فیلم ترمیناتور دیده‌ایم، می‌رساند یا آینده‌ای را رقم می‌زند که ایلان ماسک پیش‌بینی می‌کند؛ جهانی که در آن دیگر نیازی به کار کردن و پول نخواهد بود؟
با چنین نگاهی، تعجبی ندارد که آنتروپیک، شرکت سازنده Claude، از پیشگامان استقرار نظارت مستقل و مستمر بر هوش مصنوعی در درون فرایندهای توسعه این فناوری باشد. بااین‌حال، آنچه بیش از همه جدیت این شرکت را نشان می‌دهد، ابعاد سرمایه‌گذاری آن در این زمینه است.
سرمایه‌گذاری یک میلیارد دلاری در نظارت مستمر بر هوش مصنوعی چه دستاوردی دارد؟
جزئیات این برنامه هنوز در حال تدوین است، اما اساس آن بر این قرار دارد که آنتروپیک به گروهی از ارزیابان مستقل و بیرونی، دسترسی‌هایی مشابه کارکنان خود بدهد تا بتوانند مدل‌های هوش مصنوعی این شرکت را آزمایش کنند. وظیفه این گروه بررسی میزان پایبندی شرکت به رویه‌ها و تعهدات ایمنی، گزارش رخدادهای مرتبط و شناسایی نقاط کوری است که ممکن است از دید شرکت پنهان مانده باشند. هدف این است که پیشرفت‌های آنتروپیک در حوزه هوش مصنوعی از توانایی این شرکت برای شناخت و کنترل فناوری خود پیشی نگیرد.
نظارت مستمر بر هوش مصنوعی در نظام سلامت استرالیا باید چگونه باشد؟
در سال‌های اخیر شاهد گسترش سریع استفاده از هوش مصنوعی در بخش سلامت بوده‌ایم و دلایل خوبی هم برای این استقبال وجود دارد. برای نمونه، ابزارهای هوش مصنوعی که به‌طور خودکار مکالمات بالینی را ثبت و به یادداشت‌های پزشکی تبدیل می‌کنند، نوید حل هم‌زمان دو مشکل دیرینه را می‌دهند: فرسودگی شغلی کادر درمان و فشار برای افزایش بهره‌وری. این ابزارها می‌توانند زمان صرف‌شده برای امور اداری و مستندسازی را کاهش دهند تا متخصصان سلامت وقت و انرژی بیشتری برای رسیدگی به بیماران داشته باشند.
با در نظر گرفتن این مزایا، به‌راحتی می‌توان فهمید چرا طرح‌های آزمایشی هوش مصنوعی در مراکز درمانی مختلف، از جمله Calvary Health Care، Monash Health و Northern Health، تا این اندازه گسترش یافته‌اند. همچنین روشن می‌شود که چرا تعداد پزشکان عمومی استفاده‌کننده از ابزارهای هوش مصنوعی برای ثبت یادداشت‌های بالینی، طی اندکی بیش از یک سال دو برابر شده است.
اگرچه در زمینه تدوین اصول کلی و دستورالعمل‌های راهنما پیشرفت‌هایی حاصل شده، بسیاری از سازمان‌ها هنوز سازوکارهای اجرایی لازم برای مدیریت خطرات هوش مصنوعی را در اختیار ندارند. البته در این زمینه نیز حرکت‌هایی رو به جلو دیده می‌شود. برای مثال، مقاله‌ای پژوهشی که به‌تازگی با مشارکت فرح مغربی منتشر شده، چارچوبی عملی برای حکمرانی هوش مصنوعی در سازمان‌های ارائه‌دهنده خدمات سلامت پیشنهاد می‌کند.
بااین‌حال، تمرکز صرف بر خطرات نیز می‌تواند مشکل‌ساز باشد. کارگروه هوش مصنوعی مؤسسه فناوری سلامت پیترسون (PHTI) در گزارش مارس ۲۰۲۵ خود به نقطه‌ضعف مهمی در طرح‌های آزمایشی ابزارهای ثبت خودکار یادداشت‌های بالینی اشاره کرده است: مدیران ارشد سازمان‌های ارائه‌دهنده خدمات سلامت در آمریکا داده‌های لازم را در اختیار ندارند تا مشخص کنند آیا هوش مصنوعی واقعاً مزایایی را که وعده داده، محقق کرده است یا خیر.
آیا فرسودگی شغلی کارکنان درمان کاهش یافته و احتمال ماندن آن‌ها در حرفه‌شان بیشتر شده است؟ آیا بیماران تجربه بهتری از دریافت خدمات درمانی دارند؟ آیا زمانی که صرفه‌جویی می‌شود، واقعاً به افزایش بهره‌وری یا بهبود کیفیت مراقبت منجر شده است؟ و آیا این دستاوردها هزینه‌های استفاده از فناوری را توجیه می‌کنند؟
تا زمانی که پاسخی برای این پرسش‌ها وجود نداشته باشد، مدیران شواهد لازم را برای تصمیم‌گیری درباره گسترش استفاده از هوش مصنوعی در اختیار نخواهند داشت.
کارگروه مؤسسه فناوری سلامت پیترسون هشدار می‌دهد که اگر چارچوب‌های دقیق و قابل‌اتکایی برای سنجش نتایج وجود نداشته باشد، گسترش سریع استفاده از هوش مصنوعی حتی ممکن است هزینه کلی خدمات سلامت را افزایش دهد.
به همین دلیل، نظارت مستمر و مستقل بر هوش مصنوعی باید دو هدف را هم‌زمان دنبال کند: ارزیابی ایمنی و سنجش منافع واقعی. چنین نظارتی باید شواهد لازم را در اختیار مدیران نظام سلامت قرار دهد تا بتوانند تصمیم بگیرند کدام کاربردها را گسترش دهند، چه مواردی را اصلاح کنند و چه زمانی استفاده از یک فناوری را متوقف سازند.
این رویکرد دوگانه در عمل چگونه خواهد بود؟
ما در حال تسهیل برگزاری مجموعه‌ای از نشست‌های میزگرد هستیم تا به طراحی الگویی برای نظارت مستمر و مستقل بر هوش مصنوعی در نظام سلامت استرالیا کمک کنیم.
چه کسانی باید در این نشست‌ها شرکت کنند؟
مدیران سازمان‌های ارائه‌دهنده خدمات سلامت در استرالیا که اجرای یک طرح آزمایشی هوش مصنوعی را آغاز کرده‌اند و اکنون باید درباره گسترش استفاده از آن تصمیم بگیرند.
موضوعات مورد بحث
- طرح آزمایشی شما پیش از آنکه برای استفاده گسترده‌تر از فناوری تصمیم بگیرید، باید چه نتایجی را نشان دهد؟
- آیا شاخص‌ها و داده‌های لازم را برای ارزیابی مزایا، هزینه‌ها و خطرات در اختیار دارید؟
- پیش از گسترش استفاده از فناوری، چه سازوکارهایی باید برای نظارت مستمر بر آن برقرار باشد؟
در این نشست‌ها، برخی از تازه‌ترین پژوهش‌ها درباره خطرات و مزایای هوش مصنوعی را ارائه خواهیم کرد، تجربه‌های شرکت‌کنندگان را خواهیم شنید و بررسی خواهیم کرد که نظارت مستمر چگونه می‌تواند به تصمیم‌گیری درباره گسترش استفاده از این فناوری کمک کند.
برندان روش از شرکای شرکت HealthConsult، یک شرکت مشاوره مدیریت تخصصی در حوزه‌های سلامت، مراقبت از سالمندان و خدمات افراد دارای معلولیت است.