روان‌پزشک درباره خطرات استفاده از هوش مصنوعی برای دریافت مشاوره سلامت روان هشدار داد
پژوهش‌ها نشان می‌دهد نزدیک به ۶۰ درصد از بزرگسالان به‌جای گرفتن وقت از پزشک عمومی، به هوش مصنوعی مراجعه می‌کنند.
بر اساس پژوهش‌های اخیر، شمار افرادی که در گروه‌های سنی مختلف برای دریافت حمایت عاطفی و مشاوره به چت‌بات‌های هوش مصنوعی روی می‌آورند، رو به افزایش است.
نتایج نظرسنجی مؤسسه خیریه بارناردوز و انجمن ملی مشاوره و روان‌درمانی بریتانیا (NCPS) از دو هزار کودک و نوجوان ۱۱ تا ۱۷ ساله نشان می‌دهد که ۴۳ درصد از آن‌ها برای دریافت مشاوره یا حمایت عاطفی از هوش مصنوعی استفاده کرده‌اند.
در میان بزرگسالان نیز روند مشابهی دیده می‌شود. بر اساس شاخص رفاه و سلامت بوپا در سال ۲۰۲۶، نزدیک به سه نفر از هر پنج بزرگسال، معادل ۵۷ درصد، به دلیل محدودیت زمانی ترجیح می‌دهند به‌جای گرفتن وقت ملاقات با پزشک عمومی، از چت‌بات‌های هوش مصنوعی کمک بگیرند.
این نسبت در میان افراد ۱۸ تا ۲۴ ساله به ۶۵ درصد و در گروه سنی ۲۵ تا ۳۴ سال به ۶۱ درصد می‌رسد.
برای بررسی دلایل گسترش این روند و شناخت مزایا و خطرات آن، با دکتر دانیل مسعود، روان‌پزشک مشاور در مرکز سنترال هلث لندن که در روان‌پزشکی عمومی بزرگسالان و درمان اعتیاد تخصص دارد، گفت‌وگو کردیم.
به گفته او، طولانی بودن زمان انتظار برای دسترسی به خدمات سلامت روان مهم‌ترین عاملی است که افراد را به استفاده از این ابزارها سوق می‌دهد.
مسعود توضیح داد: «اگر بخواهید به پزشک عمومی مراجعه کنید، ممکن است مجبور شوید مدت زیادی پشت تلفن بمانید و برای گرفتن وقت ملاقات هم مدت طولانی منتظر بمانید. دسترسی به حمایت تخصصی اغلب بسیار دشوار است و به نظرم به همین دلیل افراد زیادی به تلفن همراه خود روی می‌آورند.»
او ادامه داد: «می‌توانید آنچه را برایتان اتفاق افتاده به مدل‌های زبانی بزرگ مانند چت‌جی‌پی‌تی و کلود توضیح دهید و این چت‌بات‌ها خیلی سریع پاسخی منسجم به شما می‌دهند.»
مسعود افزود: «به نظرم این روند نشانه وجود نیازهایی است که پاسخ مناسبی به آن‌ها داده نشده و تقاضایی که افزایش یافته است. حتی می‌توان گفت مردم برای دریافت حمایت به مرحله‌ای از درماندگی رسیده‌اند.»
اما استفاده از چت‌بات‌ها برای دریافت مشاوره سلامت روان چه خطراتی دارد؟
چت‌بات‌ها ممکن است بیش از اندازه تأییدکننده باشند و بی‌طرفی کافی نداشته باشند
این مدل‌ها به‌گونه‌ای طراحی شده‌اند که بتوانند با کاربران گفت‌وگو کنند و پاسخ‌هایی همراه و موافق ارائه دهند.
مسعود گفت: «مدل‌های زبانی بزرگ مانند چت‌جی‌پی‌تی طوری آموزش دیده‌اند که گفته‌های شما را تأیید کنند؛ بنابراین لزوماً اطلاعاتی را که در اختیارشان می‌گذارید، زیر سؤال نمی‌برند.»
او برای توضیح این موضوع مثالی زد: «فرض کنید به چت‌بات بگویید نگران هستم که مادرم قصد دارد مرا مسموم کند. چت‌بات ممکن است این ادعا را واقعیت تلقی کند و بر همان اساس به شما توصیه‌هایی بدهد.»
مسعود توضیح داد: «در چنین شرایطی، چت‌بات به‌جای آنکه دیدگاهی عینی‌تر داشته باشد، بر اساس برداشت بیمار از موقعیت و اطلاعاتی که او ارائه کرده است، مشاوره می‌دهد.»
او افزود: «اما یک روان‌پزشک انسانی احتمالاً درباره اطلاعات ارائه‌شده کنجکاوی و پرسشگری بیشتری نشان می‌دهد و بررسی می‌کند که آیا ممکن است فرد دچار افکار بدبینانه یا حتی روان‌پریشی باشد.»
این روان‌پزشک همچنین هشدار داد که چت‌بات‌ها تمایل دارند پاسخ‌های خود را با پیش‌داوری‌ها و سوگیری‌های کاربر هماهنگ کنند.
مسعود گفت: «برای مثال، اگر پرسشی جهت‌دار مانند «آیا مصرف کانابیس می‌تواند برای سلامتی مفید باشد؟» مطرح کنید، احتمال دارد چت‌بات بیشتر بر جنبه‌های مثبت آن تمرکز کند تا پیامدهای منفی مرتبط. دلیلش این است که معمولاً به سمت تأیید سوگیری خود شما گرایش دارد و این یکی از مسائلی است که کاربران باید هنگام استفاده از چنین ابزارهایی نگران آن باشند.»
او ادامه داد: «اما اگر بپرسید «شواهد علمی درباره کانابیس چه می‌گویند و در حوزه سلامت چه مزایا و معایبی باید در نظر گرفته شود؟»، احتمال اینکه پاسخی بسیار متعادل‌تر دریافت کنید، بیشتر است.»
ممکن است نشانه‌های مهم بیماری نادیده گرفته شوند
مسعود گفت: «این چت‌بات‌های هوش مصنوعی بر منطق و درخواست‌هایی که دریافت می‌کنند متکی هستند و برای شناسایی الگوهای مربوط به اختلالات مشخص سلامت روان آموزش تخصصی ندیده‌اند.»
او توضیح داد: «به همین دلیل، گاهی نشانه‌های مهمی که در صورت مراجعه فرد به خدمات سلامت روان شناسایی می‌شدند، از نظر دور می‌مانند.»
مسعود افزود: «بسیار خوب می‌شد اگر مدل‌های زبانی بزرگ می‌توانستند مشکلات جدی سلامت روان، مانند روان‌پریشی، را بهتر تشخیص دهند. اما خودم آن‌ها را آزمایش کرده‌ام و درخواست‌هایی وارد کرده‌ام که می‌توانستند نشانه بیماری باشند، ولی مدل نتوانست این نشانه‌ها را شناسایی کند.»
نبود تدابیر حفاظتی کافی
این روان‌پزشک هشدار داد: «هنوز روشن نیست شرکت‌های سازنده مدل‌های زبانی بزرگ چه تدابیر حفاظتی مشخصی برای مواجهه با بیماری‌های شدید روانی در نظر گرفته‌اند.»
خطر شکل‌گیری رابطه‌ای شبه‌عاطفی با چت‌بات
مسعود گفت: «بعضی افراد تقریباً با چت‌بات‌های خود رابطه برقرار می‌کنند؛ تا جایی که چت‌بات ممکن است به شخص سومی در یک رابطه تبدیل شود.»
او افزود: «تعیین مرزهای روشن درباره اینکه استفاده فرد از چنین مدلی برای دریافت حمایت تا چه اندازه مناسب است، کار بسیار دشواری است.»
مسعود ادامه داد: «گاهی افراد از این چت‌بات‌ها برای روان‌درمانی استفاده می‌کنند و پرسش‌های عمیق و پیچیده زیادی از آن‌ها می‌پرسند؛ پرسش‌هایی که چت‌بات لزوماً تجربه یا پاسخ لازم برای مواجهه با آن‌ها را ندارد.»
ارائه توصیه‌های عمومی برای بهبود سلامت و رفاه روانی
مسعود گفت: «گاهی بیماران احساس می‌کنند واژه‌های مناسبی برای توضیح منسجم آنچه بر آن‌ها می‌گذرد یا افکار و احساساتشان در اختیار ندارند. گفت‌وگو با یک چت‌بات ممکن است به آن‌ها کمک کند دیدگاه خود را بهتر بشناسند و احساساتشان را مشخص و منظم کنند.»
به گفته این روان‌پزشک، چت‌بات‌های هوش مصنوعی در شرایط مناسب می‌توانند به افراد کمک کنند شیوه نگاه خود به مسائل را تغییر دهند و ذهنیتی مبتنی بر رشد و یادگیری پیدا کنند.
او توضیح داد: «چت‌بات‌ها گاهی می‌توانند به افراد کمک کنند افکار دشواری را که با آن‌ها درگیر هستند، از زاویه دیگری ببینند.»
مسعود افزود: «برای مثال، ممکن است فردی تصور کند رئیسش از او متنفر است یا در محیط کار با موقعیت دشواری روبه‌رو شده باشد. چت‌بات‌ها اغلب می‌توانند توصیه‌های ساده‌ای ارائه دهند تا فرد بداند دفعه بعد چگونه با چنین موقعیتی برخورد کند و از آن تجربه چیزی بیاموزد.»
ارائه اطلاعات زمینه‌ای و تنظیم دقیق درخواست‌ها نیز ممکن است کیفیت توصیه‌های چت‌بات‌ها را افزایش دهد.
مسعود گفت: «چت‌بات برای ارائه توصیه درست به اطلاعات زمینه‌ای نیاز دارد. گاهی بیماران احساسات خود را برای چت‌بات توضیح می‌دهند و من ممکن است از آن‌ها بخواهم درخواست مشخص‌تری مطرح کنند؛ مثلاً بنویسند «چند اقدام منطقی و ایمن پیشنهاد بده که بتوانم برای داشتن ذهنیت رشد در این موقعیت انجام دهم».»
او ادامه داد: «در چنین شرایطی، چت‌بات اغلب ابتدا توضیحاتی درباره وضعیت ارائه می‌دهد و احساسات فرد را تأیید می‌کند، اما پس از آن معمولاً توصیه‌های عمومی واقعاً مفیدی برای مدیریت استرس و بهبود سلامت و رفاه روانی در موقعیت‌های روزمره ارائه می‌دهد.»
این روان‌پزشک همچنین اشاره کرد که چت‌بات‌ها می‌توانند در دوره‌ای که افراد منتظر دریافت حمایت تخصصی هستند، ابزار کمکی مفیدی باشند.
مسعود گفت: «برای فردی که فوراً به حمایت نیاز دارد، اما لزوماً در وضعیت بسیار وخیمی نیست و شاید فقط به کمی اطمینان خاطر احتیاج داشته باشد، چت‌بات می‌تواند راهکاری موقت باشد.»
جمع‌بندی
مسعود گفت: «نکته اصلی این است که چت‌بات‌ها جایگزین مراقبت روان‌پزشکی مناسب نمی‌شوند، اما قطعاً می‌توانند ابزار مفیدی باشند.»
او افزود: «به نظرم لازم است مقررات بسیار بیشتری برای استفاده از این فناوری وضع شود. همچنین معتقدم روان‌پزشکان باید تعامل بیشتری با این فناوری داشته باشند و درک کنند مراجعانشان چگونه از آن استفاده می‌کنند.»
به گفته او، حفظ روحیه پرسشگری و یادگیری شیوه استفاده ایمن از هوش مصنوعی اهمیت اساسی دارد.
مسعود در پایان گفت: «به نظرم بهتر است به مردم آموزش دهیم چگونه درخواست‌های خود را مطرح کنند تا بیشترین بهره را از چت‌بات ببرند و درعین‌حال بدانند که به دلیل تمایل ذاتی این ابزارها به تأیید گفته‌های کاربر، ممکن است برخی مسائل مهم از نظر دور بمانند.»