هوش مصنوعی می‌تواند دلیل رد شدن وام را توضیح دهد؛ آیا بانک می‌تواند آن را ثابت کند؟
یادداشت | بوراک اوکتنلی
نکات کلیدی:
- هوش مصنوعی مولد ممکن است اطلاعیه‌های رد اعتبار را قانع‌کننده‌تر اما جدا از تصمیم واقعی چندمرحله‌ای اعتباردهی کند؛ به‌گونه‌ای که نامه به عوامل اصلی ریسک یک مدل اشاره کند، در حالی که دلیل واقعی رد درخواست، مانند یک قانون توانایی بازپرداخت یا بدهی مورد اختلاف، چیز دیگری بوده باشد.
- مقررات B در آمریکا همچنان بانک‌ها را ملزم می‌کند دلایل اصلی رد اعتبار را که واقعاً توسط وام‌دهنده در نظر گرفته شده‌اند، اعلام کنند؛ تغییرات اخیر نظارتی و کاهش شدت برخی بررسی‌های نهادهای ناظر این مسئولیت را از بین نمی‌برد.
- راه‌حل، حفظ یک «ردپای تصمیم» شامل ورودی‌ها، نسخه‌های مدل، قوانین سیاستی و مداخلات انسانی است تا هوش مصنوعی تولیدکننده نامه فقط دلایل تأییدشده مرتبط با تصمیم را به زبان ساده تبدیل کند.
با یادگیری مدل‌های جدید اعتباری از الگوهای هزینه‌کرد و جریان نقدی، چالش دیگر صرفاً تولید یک توضیح نیست؛ بلکه اثبات این است که توضیح ارائه‌شده واقعاً متعلق به همان تصمیمی است که گرفته شده است.
تصور کنید وام‌گیری نامه‌ای دقیق و مؤدبانه درباره رد درخواست خود دریافت می‌کند. بانک اعلام می‌کند که او مدت کافی در نشانی فعلی زندگی نکرده است، اما او هفت سال است همان‌جا ساکن است. در واقع، یک بدهی نامرتبط که اشتباهاً به پرونده او اضافه شده، مانع تأیید وام شده است. اطلاعیه خودکار محترمانه، مشخص و در عین حال نادرست است.
این مثال فرضی است، اما آسیب‌پذیری‌ای که نشان می‌دهد واقعی است: در فرآیند وام‌دهی که از ارائه‌دهندگان داده، امتیازهای ریسک، قوانین داخلی و قضاوت انسانی تشکیل شده است، توضیحی ظاهراً منطقی می‌تواند از تصمیمی که قرار است توضیح دهد جدا شود. هوش مصنوعی مولد حتی ممکن است چنین اشتباهی را قانع‌کننده‌تر کند.
این پرسش اکنون اهمیت بیشتری یافته است. در ۶ اکتبر، شرکت فناوری مالی Plaid مدل‌های جدید وام‌دهی مبتنی بر جریان نقدی از جمله LendScore Arc را معرفی کرد که توالی و زمان‌بندی تراکنش‌های مالی را بررسی می‌کند. این شرکت می‌گوید سیستم آن سهم عوامل مختلف در مدل را به کدهای قابل فهم تبدیل می‌کند و روشی برای ردگیری این عوامل تا تراکنش‌های مالی ارائه کرده است. این تلاش‌ها برای حل یک مسئله فنی دشوار هستند و به خودی خود نشانه تولید اطلاعیه‌های نادرست نیستند.
اما همین موضوع پرسش بعدی را اجتناب‌ناپذیر می‌کند: اگر وام‌دهنده یک کد دلیل را از یک مدل دریافت کند، امتیاز آن را با اطلاعات یک ارائه‌دهنده دیگر ترکیب کند، قوانین داخلی خود را اعمال کند و شاید اجازه مداخله انسانی بدهد، دقیقاً چه چیزی دلیل نهایی رد درخواست است؟
دلیل یک امتیاز همیشه دلیل رد درخواست نیست
تصمیم اعتباری مدرن می‌تواند چندین مرحله داشته باشد. یک طرف ثالث ریسک بازپرداخت را تخمین می‌زند. وام‌دهنده توانایی مالی، هویت، قوانین واجد شرایط بودن و امکان استثنا را بررسی می‌کند. سپس ممکن است یک سرویس جداگانه نامه اطلاع‌رسانی را تولید کند.
هر مرحله می‌تواند مشروع باشد، اما مشکل زمانی آغاز می‌شود که نامه مرحله اشتباهی را توضیح دهد.
فرض کنید متقاضی از آستانه ریسک اعتباری مدل عبور کند، اما به دلیل یک تعهد مالی مورد اختلاف در بررسی توانایی بازپرداخت رد شود. نامه‌ای که بر اساس عوامل اصلی ریسک مدل نوشته شده، ممکن است از نظر فنی پیچیده به نظر برسد، اما دلیل واقعی رد درخواست را حذف کند. برعکس، بانک ممکن است به یک قانون داخلی اشاره کند که در تصمیم نهایی نقشی نداشته است.
مسئله این نیست که یادگیری ماشین نمی‌تواند در ارزیابی اعتبار کمک کند. داده‌های مالی گسترده‌تر ممکن است به وام‌دهندگان کمک کند افرادی را شناسایی کنند که سابقه اعتباری محدودی دارند اما درآمد ثابت یا مدیریت مالی مسئولانه‌ای نشان می‌دهند. مشکل زمانی ایجاد می‌شود که یک سیستم پیش‌بینی ریسک، به‌عنوان گزارش کامل نحوه اعمال اختیار تصمیم‌گیری یک مؤسسه تلقی شود.
این تفاوت در آمریکا مبنای حقوقی دارد. تفسیر رسمی مقررات B الزام می‌کند اطلاعیه رد اعتبار، دلایل اصلی‌ای را بیان کند که دقیقاً عوامل مورد بررسی یا امتیازدهی‌شده توسط اعتباردهنده را توصیف می‌کنند. در تصمیم‌هایی که ترکیبی از امتیازدهی اعتباری و قضاوت انسانی هستند، دلایل باید با بخش یا بخش‌هایی که مسئول رد درخواست بوده‌اند مطابقت داشته باشند. وام‌گیرندگان حق دریافت توضیح کامل درباره کدهای محرمانه نرم‌افزار را ندارند، اما حق دارند دلایل مرتبط و واقعی را بدانند.
قوانین در حال تغییر هستند، اما نیاز به شواهد باقی می‌ماند
فضای نظارتی در مسیرهای متفاوتی حرکت می‌کند. اداره حمایت مالی مصرف‌کننده آمریکا در ماه مه ۲۰۲۵ بخشنامه سال ۲۰۲۲ خود درباره اطلاعیه‌های رد اعتبار مبتنی بر الگوریتم‌های پیچیده را پس گرفت. در آوریل ۲۰۲۶، فدرال رزرو، FDIC و OCC راهنمای مدیریت ریسک مدل‌ها را بازنگری کردند و بر رویکرد متناسب تأکید کردند. این سند یک راهنمای نظارتی است، نه استاندارد فنی الزام‌آور جدید.
هیچ‌یک از این تغییرات الزام اصلی مربوط به اطلاعیه‌های رد اعتبار را حذف نکرده است. همچنین کنار گذاشتن یک فناوری از یک سند خاص مدیریت ریسک مدل، ارائه نامه گمراه‌کننده رد وام را قابل قبول نمی‌کند. مسئولیت تصمیم اعتباری همچنان بر عهده وام‌دهنده است، حتی اگر نرم‌افزار و داده‌ها از تأمین‌کنندگان خارجی تهیه شده باشند.
در ۷ اکتبر، رویترز از رویکرد بررسی سبک‌تر در CFPB خبر داد. طرفداران نظارت متناسب معتقدند این رویکرد می‌تواند هزینه‌های غیرضروری انطباق را کاهش دهد؛ منتقدان نگران‌اند بررسی محدودتر، آسیب‌های جدی به مصرف‌کنندگان را نادیده بگیرد. فارغ از اینکه کدام رویکرد غالب شود، مؤسسات مالی همچنان به روشی داخلی برای بازسازی اتفاقی که برای یک درخواست مشخص رخ داده است نیاز دارند.
این مسئله تنها به مقررات آمریکا محدود نیست. کمیسیون اروپا سیستم‌های هوش مصنوعی ارزیاب اعتبار افراد را از موارد پرخطر می‌داند، هرچند اجرای برخی الزامات کلیدی این دسته به تعویق افتاده است. قوانین و زمان‌بندی‌ها متفاوت‌اند، اما وام‌دهندگان فعال در چند حوزه قضایی با یک پرسش مشترک روبه‌رو هستند: آیا مؤسسه می‌تواند دلیلی را که به مشتری اعلام کرده است دوباره تولید کند؟
ردپای تصمیم باید منبع نامه باشد
پاسخ باید پیش از نوشتن نامه آغاز شود. برای هر تصمیم اعتباری مهم، وام‌دهنده باید سابقه کنترل‌شده‌ای از ورودی‌های مؤثر، منشأ و زمان ثبت آن‌ها، نسخه مدل‌ها و امتیازهای ارائه‌دهندگان، قانون یا آستانه تصمیم‌گیری، ارزیابی انسانی و هرگونه تغییر دستی حفظ کند. همچنین باید کدهای دلیل انتخاب‌شده و نسخه نهایی نامه ارسال‌شده نگهداری شود.
می‌توان این سابقه را «ردپای تصمیم» نامید. هدف آن افشای همه اسرار تجاری یا نگهداری بی‌حدوحصر داده‌های شخصی نیست. داده‌های حساس به کنترل دسترسی، دوره نگهداری متناسب و فرآیند اصلاح مشخص نیاز دارند. هدف این است که یک بازبین مجاز بتواند مسیر رسیدن از شواهد به نتیجه را دنبال کند، بدون آنکه از یک مدل زبانی بخواهد بعداً حدس بزند چه اتفاقی افتاده است.
هوش مصنوعی تولیدکننده نامه می‌تواند سپس دلایل تأییدشده و مرتبط با تصمیم را به زبانی روشن تبدیل کند. این سیستم نباید بتواند فقط به دلیل مناسب بودن یک عامل در قالب آماده توضیح، عامل دیگری را جایگزین کند.
دو آزمون عملی می‌تواند نشان دهد آیا این طراحی کار می‌کند.
نخست، سامانه را با پرونده‌ای دارای یک اختلاف شناخته‌شده، مانند بدهی اشتباه ثبت‌شده، آزمایش کنید و از بازبینان بخواهید تصمیم و نامه را بر اساس سابقه حفظ‌شده بازسازی کنند. سپس خطا را اصلاح کنید. آیا تصمیم در جای درست تغییر می‌کند و آیا نامه نتیجه جدید را درست منعکس می‌کند؟ تغییر یک ورودی الزاماً به تغییر نتیجه منجر نمی‌شود؛ ممکن است دلایل معتبر دیگری باقی مانده باشند. به همین دلیل آزمون باید مراحل واقعی تصمیم‌گیری را بررسی کند، نه اینکه یک رابطه علت و معلولی ساده فرض کند.
دوم، همین آزمایش را پس از به‌روزرسانی یک تأمین‌کننده، تغییر سیاست یا اصلاح آستانه امتیازدهی تکرار کنید. وام‌دهنده باید بداند آیا سیستم جدید همچنان دلایلی ارائه می‌کند که با تصمیم نهایی مطابقت دارند یا خیر. فهرستی از کدهای دلیل آشنا به‌تنهایی مدرک کافی نیست.
بازبینی انسانی نباید فقط امضایی در پایین نامه باشد. بازبین باید به سابقه مرتبط دسترسی داشته باشد، بتواند داده‌های اشتباه را شناسایی کند و روشی برای اصلاح تصمیم یا اطلاعیه داشته باشد. قرارداد با ارائه‌دهندگان شخص ثالث نیز باید اطلاعات نسخه‌ای و دسترسی آزمایشی کافی برای چنین بررسی‌ای فراهم کند.
فراگیری اعتباری به توضیحات قابل اعتماد وابسته است
دلیل استفاده از روش‌های بهتر اعتبارسنجی قابل توجه است. اطلاعات جریان نقدی ممکن است به متقاضیانی کمک کند که سابقه اعتباری سنتی کمی دارند اما اجاره و قبوض خود را منظم پرداخت می‌کنند. مدل‌های پیشرفته‌تر می‌توانند الگوهای مفید را شناسایی و کار دستی را کاهش دهند. با این حال، داده‌های گسترده‌تر ممکن است نشانه‌های جایگزینی مرتبط با جغرافیا، نوسان درآمد یا ویژگی‌های جمعیتی را نیز منتقل کنند. بنابراین اطلاعیه‌های دقیق باید در کنار آزمون‌های مستقل برای شناسایی نتایج ناعادلانه قرار گیرند.
پیش‌تر، یوراسیا ریویو تحلیلی از صندوق بین‌المللی پول درباره خطرات هوش مصنوعی در امور مالی منتشر کرده بود که درباره ابهام، وابستگی‌های مشترک و گسترش سریع‌تر خطاها هشدار می‌داد. این نگرانی‌ها در سطح نظام مالی اهمیت دارند. وام‌گیرنده ردشده نیز با همان مشکل پاسخ‌گویی در مقیاس کوچک‌تر روبه‌رو است: اگر هیچ‌کس نتواند یک تصمیم اشتباه را بازسازی کند، خطا ممکن است ادامه یابد و تکرار شود.
نامه رد صادقانه تضمین نمی‌کند که تصمیم وام‌دهی عادلانه بوده یا مدل دقیق عمل کرده است. اما نقطه شروعی برای بررسی واقعیت‌های مرتبط در اختیار متقاضی و مؤسسه قرار می‌دهد. نامه نادرست همه را به بررسی مسئله‌ای اشتباه هدایت می‌کند.
نسل بعدی هوش مصنوعی در وام‌دهی نباید فقط بر اساس نرخ تأیید، دقت پیش‌بینی و سرعت ارتباط با مشتری سنجیده شود. بانک‌ها باید بتوانند نشان دهند نامه رد وام بر اساس شواهد و تصمیم واقعی تولید شده و این حساب می‌تواند در برابر اصلاح، حسابرسی یا به‌روزرسانی نرم‌افزاری دوام بیاورد.
وام‌گیرندگان نباید برای فهمیدن دلیل رد شدن درخواست خود، مجبور به درک شبکه‌های عصبی باشند. در یک نظام مالی که هر روز خودکارتر می‌شود، حق داشتن یک دلیل واقعی باید فاصله میان امتیاز الگوریتم و پاسخ نهایی بانک را پشت سر بگذارد.