بانک‌ها برای پیامدهای فاجعه‌بار و بی‌سابقه هوش مصنوعی آماده می‌شوند

هشدار درباره آخرالزمان احتمالی ناشی از هوش مصنوعی دیگر صرفاً به اظهارنظرهای تند و هشدارآمیز تعدادی از میلیاردرهای دنیای فناوری محدود نیست.

اکنون بانک‌های بزرگ آمریکا که سیاست‌هایشان بر جریان سرمایه در سراسر جهان تأثیر می‌گذارد، نیز نگران هوش مصنوعی خارج از کنترل شده‌اند و برای «روز پس از» یک فاجعه فرضی ناشی از این فناوری، برنامه‌های اضطراری تدوین می‌کنند.

این موضوع را گزارش تازه‌ای از آکسیوس مطرح کرده است. به نوشته این رسانه، بانک‌ها در شرایطی خود را برای بدترین سناریو آماده می‌کنند که فعالیت عامل‌های هوش مصنوعی به نمایندگی از مشتریان عادی به‌شدت افزایش یافته است.

به نظر می‌رسد نگرانی اصلی، افزایش حجم تراکنش‌ها و فعالیت‌های مالی ناشی از عامل‌های هوش مصنوعی خودمختار باشد؛ عامل‌هایی که کاربران انسانی به آن‌ها اجازه دسترسی به حساب‌های بانکی خود را داده‌اند. در برخی موارد، همان‌طور که آکسیوس پیش‌تر گزارش داده بود، این عامل‌ها اقداماتی انجام می‌دهند که انسان‌ها صراحتاً از آن‌ها نخواسته‌اند. حتی برخی از آن‌ها بدون دریافت دستور، از طرف کاربرانشان با مراکز تماس ارتباط گرفته‌اند.

این وضعیت به مسئولیتی سنگین و خطری جدی برای بانک‌های بزرگی مانند مورگان استنلی، بانک آو آمریکا، جی‌پی مورگان و ولز فارگو تبدیل شده است. این مؤسسات با شتاب در تلاش‌اند رویه‌های امنیتی و سیاست‌های داخلی خود را اصلاح کنند تا پیش از گسترش بیشتر فعالیت این عامل‌های هوش مصنوعی، برای مقابله با خطرات احتمالی آماده باشند.

به گفته برخی کارشناسان، ناتوانی در مهار خطرات نوظهور می‌تواند به فاجعه‌ای مالی منجر شود. تورستن اسلوک، اقتصاددان ارشد شرکت مدیریت ثروت آپولو، در یادداشتی که در اواخر سپتامبر منتشر کرد، توضیح داد که عامل‌های هوش مصنوعی با مأموریت «بهینه‌سازی بازده» پول کاربران ممکن است باعث شوند بانک‌ها «بخش بزرگی از سپرده‌های کم‌هزینه‌ای را که برای اعطای وام به آن‌ها متکی هستند از دست بدهند؛ اتفاقی که برای کل نظام مالی مشکل‌ساز خواهد بود.»

اگرچه این اعتراف ممکن است ناخوشایند به نظر برسد، واقعیت این است که نظام بانکی سودمحور ما اساساً برای مدیریت چنین سطحی از بهینه‌سازی به نفع مصرف‌کنندگان طراحی نشده است. برای مثال، کازینویی را تصور کنید که دستگاه‌های قمار آن به هر بازیکنی جایزه می‌دادند؛ چنین کسب‌وکاری مدت زیادی دوام نمی‌آورد.

برخی دیگر از کارشناسان حوزه مالی نیز به این نکته اشاره کرده‌اند که عامل‌های هوش مصنوعی ممکن است، فارغ از دستورهایی که دریافت کرده‌اند، به‌سادگی از کنترل خارج شوند و رفتارهای غیرقابل‌پیش‌بینی از خود نشان دهند.

جیمی دایمن، مدیرعامل جی‌پی مورگان، اوایل همین ماه در جمعی از اقتصاددانان و کارشناسان مالی در شیکاگو گفت: «شما فرض می‌کنید که آن‌ها از طرف شما درست عمل خواهند کرد، اما ممکن است چنین نکنند. نمی‌توانید جلوی این روند را بگیرید؛ فقط باید به‌شدت بر آن نظارت کنید و آن را مدیریت کنید.»