نهادهای نظارتی بانکی با افزایش نگرانی‌ها درباره ثبات مالی، بررسی هوش مصنوعی را تشدید می‌کنند
نیویورک/لندن — به گفته شش فرد آگاه از این موضوع، نهادهای نظارتی بانکی تلاش‌های خود را برای مهار خطرهای فزاینده هوش مصنوعی افزایش داده‌اند؛ برخی از این افراد به احتمال حملات سایبری علیه بانک‌ها یا فعالیت عوامل خودمختار هوش مصنوعی که می‌توانند ثبات مالی جهانی را تضعیف کنند، اشاره کرده‌اند.
منابع گفتند این بررسی‌های نظارتی که جزئیات تازه آن برای نخستین بار در این گزارش منتشر می‌شود، نشان‌دهنده افزایش درک این موضوع است که پیشرفتهای هوش مصنوعی پیشرفته ممکن است به سرمایه‌گذاری‌های پرهزینه در زمینه بازیابی سایبری، توجه بیشتر به وابستگی بانک‌ها به ارائه‌دهندگان فناوری خارجی و در برخی کشورها تدوین دستورالعمل‌های رسمی‌تر نظارتی نیاز داشته باشد.
دو نفر از این افراد به رویترز گفتند سه نهاد اصلی نظارتی در آمریکا، از جمله فدرال رزرو، از بانک‌ها درباره نحوه استفاده آنها از مدل‌های پیشرفته هوش مصنوعی پرس‌وجو کرده‌اند؛ اقدامی که به بررسی‌های پیشین در این زمینه اضافه می‌شود.
سه منبع گفتند پرسش‌ها شامل این موارد است که آیا بانک‌ها از فناوری‌های توسعه‌یافته در چین استفاده می‌کنند، آیا از عوامل هوش مصنوعی در دفاع سایبری بهره می‌برند و آیا توان کنترل سیستم‌هایی با سطح فزاینده‌ای از خودمختاری را دارند.
سه فرد آگاه از دیدگاه نهادهای نظارتی اروپایی گفتند در اروپا نیز نهادهایی مانند بانک انگلستان و بانک مرکزی اروپا از بانک‌ها می‌خواهند برنامه‌های بازیابی خود را تقویت کنند، زیرا نگران‌اند پیشرفت سریع هوش مصنوعی بتواند زودتر از آنچه پیش‌تر تصور می‌شد آسیب و اختلال جدی در بازارهای مالی ایجاد کند.
یک مدیر ارشد در یک بانک بزرگ اروپایی گفت آنها نیز نگران احتمال وارد شدن خسارت‌های قابل توجه به نظام بانکی و بازارهای مالی در شش ماه آینده هستند.
بحث درباره نظارت بر هوش مصنوعی پس از هشدارهای صنعت درباره رویدادهای اخیر شدت گرفته است. رویترز پیش‌تر گزارش داده بود که جیمی دایمون، مدیرعامل جی‌پی مورگان، از مدیران شرکت‌ها خواسته است به یک گروه صنعتی با تمرکز بر آمریکا برای مقابله با خطرهای هوش مصنوعی بپیوندند.
شرکت امنیت سایبری آمریکایی کراوداسترایک اعلام کرد این ماه فردی در چین احتمالاً از یک عامل هوش مصنوعی توسعه‌یافته در چین و ابزار Claude Code شرکت Anthropic در حمله‌ای علیه بانک‌های کره جنوبی استفاده کرده است. همچنین رویترز گزارش داده بود که عوامل خودمختار هوش مصنوعی توسعه‌یافته توسط OpenAI در یک نفوذ به پلتفرم هوش مصنوعی Hugging Face نقش داشته‌اند.
پژوهشگران شرکت Anthropic هشدار داده‌اند که سیستم‌های هوش مصنوعی قدرتمندتر در نهایت ممکن است از کنترل انسان خارج شوند و حتی تهدیدی وجودی ایجاد کنند؛ موضوعی که درخواست‌ها برای مقررات سخت‌گیرانه‌تر را افزایش داده است.
صندوق بین‌المللی پول روز سه‌شنبه درباره «خوش‌بینی بی‌مورد» در بازارهای مالی جهانی هشدار داد و به خطرهای مختلف، از جمله احتمال حمله سایبری، اشاره کرد. این نهاد اعلام کرد یک حمله بزرگ که یک خدمت حیاتی یا مؤسسه مالی را هدف قرار دهد، می‌تواند اعتماد عمومی را تضعیف کند و از سیاست‌گذاران خواست ظرفیت‌های امنیت سایبری خود را افزایش دهند.
بانک‌ها در رقابت برای پذیرش هوش مصنوعی عاملی هستند؛ فناوری‌ای که می‌تواند با حداقل نظارت انسانی وظایف را انجام دهد. در عین حال، آنها با چالش‌های مدل‌های جدید، از جمله ضعف‌های فناوری اطلاعات که ابزار Mythos شرکت Anthropic شناسایی کرده، روبه‌رو هستند.
مایکل وودبریج، شریک بخش امنیت سایبری شرکت گرنت تورنتون در لندن، گفت: «پذیرش هوش مصنوعی اغلب سریع‌تر از توانایی ایجاد کنترل‌های لازم برای آن پیش می‌رود.»
نگرانی‌های آمریکا بر هوش مصنوعی عاملی متمرکز است
بررسی‌های نظارتی آمریکا بر نحوه استفاده بانک‌ها از هوش مصنوعی عاملی در حوزه‌هایی مانند امنیت سایبری تمرکز دارد؛ از جمله اینکه آیا عوامل هوش مصنوعی برای شناسایی، اولویت‌بندی و پاسخ به تهدیدها استفاده می‌شوند یا نه.
دو نفر از منابع گفتند پرسش‌های دفتر نظارت بر ارز (OCC)، شرکت بیمه سپرده فدرال و فدرال رزرو بر محدودیت‌هایی که برای این سیستم‌ها تعیین شده، نحوه نظارت و تأیید عملکرد آنها و اینکه آیا بانک‌ها می‌توانند تصمیم‌های عوامل هوش مصنوعی را به‌طور دقیق ردیابی و حسابرسی کنند، متمرکز است.
آنها همچنین درباره تدابیر حفاظتی برای جلوگیری از فراتر رفتن عوامل هوش مصنوعی از اختیاراتشان، میزان حضور انسان در تصمیم‌های کلیدی و نحوه خاموش کردن سیستم‌های خودمختار پرس‌وجو می‌کنند.
OCC، فدرال رزرو و شرکت بیمه سپرده فدرال از اظهار نظر خودداری کردند.
سه فرد آگاه از دیدگاه نهادهای نظارتی گفتند این پرسش‌ها موضوعات مشخص‌تری مرتبط با مدل‌های پیشرفته هوش مصنوعی، از جمله استفاده از عوامل خودمختار، مدل‌های توسعه‌یافته در خارج از آمریکا و خطرهای جدید سایبری را بررسی می‌کنند.
آنها افزودند درخواست‌های کتبی و شفاهی از بانک‌های بزرگ، متوسط و کوچک نشان می‌دهد نهادهای نظارتی بر آسیب‌پذیری‌های ناشی از استفاده بانک‌ها از هوش مصنوعی و آمادگی آنها برای واکنش به مشکلات تمرکز کرده‌اند.
به گفته این افراد، نهادهای نظارتی هنوز در مرحله جمع‌آوری اطلاعات هستند و هنوز دستورالعمل‌های الزام‌آور درباره اقداماتی که وام‌دهندگان باید انجام دهند، ارائه نکرده‌اند.
نگرانی اروپایی‌ها درباره بازیابی سیستم‌ها
دو فرد آگاه از دیدگاه نهادهای نظارتی گفتند ناظران بریتانیا به‌طور جداگانه بانک‌های بزرگ این کشور را تشویق می‌کنند تا برنامه‌هایی موسوم به بازیابی «bare metal» را بررسی کنند. این سیستم‌ها کاملاً مستقل از زیرساخت فناوری اصلی بانک هستند و در صورت به خطر افتادن سیستم‌های عملیاتی اصلی می‌توانند فعال شوند.
این افراد گفتند ایجاد و نگهداری چنین سامانه‌های پیشرفتهای برای بازیابی، هزینه‌بر است.
آنها افزودند مقام‌های بریتانیا قصد دارند به جای وضع الزامات جدید، با صنعت همکاری کنند.
بانک انگلستان از اظهار نظر خودداری کرد.
بانک مرکزی اروپا در ماه ژوئیه به بانک‌ها تا پایان اکتبر فرصت داد تا برنامه‌هایی برای مقابله با تهدیدهای سایبری مبتنی بر هوش مصنوعی، از جمله تقویت پشتیبان‌گیری و بازیابی، ارائه کنند.
بانک مرکزی اروپا در پاسخ به پرسش درباره راهبرد خود برای تنظیم مقررات هوش مصنوعی، به نامه ماه ژوئیه خود و همچنین سخنرانی ماه ژوئن فرانک الدرسان، عضو هیئت‌مدیره این بانک، اشاره کرد که بر ضرورت ایجاد احساس فوریت، نه ایجاد هراس، درباره این تهدیدها تأکید کرده بود.
نیاز به اقدام نظارتی پس از آن اهمیت بیشتری یافته است که بانک‌ها و نهادهای نظارتی اروپایی از دسترسی محدود خود به ابزار Mythos در سال جاری ابراز نارضایتی کرده‌اند؛ آنها نگران‌اند بانک‌های آمریکایی نخستین فرصت را برای آزمایش مدل‌های پیشرفته هوش مصنوعی در اختیار داشته باشند.
دو منبع گفتند مانند همتایان آمریکایی، ناظران بریتانیایی نیز از بانک‌ها می‌خواهند از هوش مصنوعی پیشرفته برای شناسایی آسیب‌پذیری‌ها و سرعت بخشیدن به اصلاح آنها استفاده کنند. یکی از این منابع افزود بانک‌ها تاکنون در این زمینه عملکرد خوبی داشته‌اند.
منبع سوم گفت از بانک‌های منطقه یورو نیز خواسته شده است نحوه استفاده از هوش مصنوعی در بخش‌های مختلف کسب‌وکار خود و نزد ارائه‌دهندگان شخص ثالث را مشخص کنند تا وابستگی‌های کلیدی را بشناسند و اطمینان یابند که می‌توانند سیستم‌ها را به‌صورت کنترل‌شده خاموش و دوباره راه‌اندازی کنند.
این منبع افزود در برخی شرکت‌ها همچنان شکاف‌های قابل توجهی وجود دارد.
سوکاند راماشاندران، مدیرعامل و شریک ارشد شرکت BCG، گفت: «برای محافظت در برابر حملات، بازیابی سریع به اندازه پیشگیری اهمیت دارد.»
راماشاندران به رویترز گفت بدون نسخه‌های پاک و امن از داده‌های حیاتی که به‌صورت جداگانه نگهداری شوند، «یک حمله جدی می‌تواند مشتریان را از دسترسی به حساب‌هایشان محروم کند و پرداخت‌ها را در سراسر اقتصاد گسترده مختل سازد.»
گزارش از نوپور آناند در نیویورک و فیبی سیرز و تامی رگیوری ویلکس در لندن؛ گزارش تکمیلی از پیت شرودر در واشنگتن؛ ویرایش توسط مگان دیویس، الیسا مارتینوزی و الکساندر اسمیت