آیا سپردن مدیریت حساب‌های بانکی به هوش مصنوعی خطرناک است؟ بانک‌ها دسترسی عوامل هوش مصنوعی خارجی را مسدود می‌کنند
شناسایی عوامل هوش مصنوعی خارجی در حساب‌های بانکی آمریکا
بانک‌های بزرگ آمریکا پس از شناسایی مواردی از دسترسی عوامل هوش مصنوعی خارجی به حساب‌های مشتریان، اقدام به مسدود کردن این دسترسی‌ها کرده‌اند. گزارش‌ها نشان می‌دهد برخی از این عوامل هوش مصنوعی ظاهراً اقداماتی خارج از دستور صاحبان حساب انجام داده‌اند. این اتفاق می‌تواند روند گسترش استفاده از «دستیاران مالی هوش مصنوعی» را با وقفه روبه‌رو کند.
به گزارش رسانه آمریکایی اکسیوس در ۲۲ اکتبر به وقت محلی، بانک‌های بزرگ ایالات متحده فعالیت عوامل هوش مصنوعی شخص ثالث را در حساب‌های مشتریان شناسایی کرده‌اند که مجوز دسترسی از بانک دریافت نکرده‌اند. در این شیوه، مشتری نام کاربری و رمز عبور حساب بانکی خود را در اختیار یک دستیار هوش مصنوعی قرار می‌دهد تا به نمایندگی از او وارد حساب شود. هرچند این دسترسی با اجازه صاحب حساب انجام می‌شود، بانک آن را تأیید نکرده است و چنین اقدامی با مقررات بیشتر بانک‌ها که ورود مستقیم مشتری به حساب را الزامی می‌دانند، مغایرت دارد. اکسیوس همچنین گزارش داده است که برخی از این عوامل اقداماتی نامرتبط با دستور مشتری، از جمله تماس با مرکز خدمات مشتریان، انجام داده‌اند.
در واکنش به این وضعیت، مورگان استنلی مسدود کردن دسترسی عوامل هوش مصنوعی خارجی به پلتفرم خود را آغاز کرده است. جی‌پی مورگان چیس، بانک آو آمریکا و سیتی نیز محدودیت‌هایی برای این نوع دسترسی اعمال می‌کنند. بیشتر بانک‌ها تصمیم گرفته‌اند دسترسی این ابزارها را به حالت «فقط مشاهده» محدود کنند؛ به این معنا که عوامل هوش مصنوعی صرفاً امکان مشاهده موجودی حساب و جزئیات تراکنش‌ها را داشته باشند. با این حال، سخنگوی مورگان استنلی اعلام کرده است که این بانک تاکنون هیچ مورد تأییدشده‌ای از دسترسی «عوامل هوش مصنوعی خارج از کنترل» شناسایی نکرده است.
کره جنوبی نیز از این خطرات در امان نیست. از سال ۲۰۲۲، شرکت‌های ارائه‌دهنده خدمات «مای‌دیتا» (MyData) در کره جنوبی اجازه ندارند با استفاده از اطلاعات ورود مشتریان، به نمایندگی از آن‌ها وارد سامانه‌های بانکی شوند و اطلاعات دریافت کنند. در عوض، تبادل اطلاعات باید صرفاً از طریق رابط برنامه‌نویسی کاربردی (API) انجام شود؛ یعنی کانال ارتباطی اختصاصی که از پیش با بانک درباره آن توافق شده است. با این حال، این مقررات فقط برای شرکت‌های ارائه‌دهنده خدمات مای‌دیتا الزام‌آور است. هنوز ضوابط مشخص و کافی برای کنترل شرایطی وجود ندارد که مشتریان شخصاً نام کاربری و رمز عبور خود را در اختیار ابزارهای هوش مصنوعی عمومی قرار می‌دهند و انجام تراکنش‌های مالی را به آن‌ها می‌سپارند.
مسئله مهم‌تر زمانی مطرح می‌شود که حادثه‌ای رخ دهد. طبق قانون تراکنش‌های مالی الکترونیکی کره جنوبی، مسئولیت جبران خسارت ناشی از حوادث مالی الکترونیکی اصولاً بر عهده شرکت‌های مالی است. با این حال، اگر کاربر مرتکب تخلف عمدی یا سهل‌انگاری فاحش شده باشد، از جمله اینکه استفاده از ابزارهای دسترسی به حساب را به شخص ثالث واگذار کرده باشد، ممکن است طبق توافق قبلی، مسئولیت تمام یا بخشی از خسارت بر عهده خود او قرار گیرد. بنابراین، اگر ارائه رمز عبور به هوش مصنوعی مصداق «واگذاری اختیار به شخص ثالث» شناخته شود، این احتمال وجود دارد که مشتری ناچار به تحمل خسارت ناشی از حادثه شود. با وجود این، هنوز معیار مشخصی برای تشخیص اینکه سپردن امور به هوش مصنوعی در چه شرایطی واگذاری اختیار محسوب می‌شود، تدوین نشده است.
چارچوب‌های قانونی و نظارتی هنوز نتوانسته‌اند هم‌پای پیشرفت فناوری حرکت کنند. کمیسیون خدمات مالی کره جنوبی تصمیم گرفته است در نیمه دوم سال جاری، از طریق یک کارگروه ویژه، طرح‌های آزمایشی عوامل هوش مصنوعی و راهکارهای اصلاح مقررات را بررسی کند؛ اما این اقدامات همچنان در مرحله بررسی قرار دارند. هنوز مشخص نشده است که عوامل هوش مصنوعی تا چه اندازه اجازه خواهند داشت از مرحله مشاهده اطلاعات فراتر بروند و اقداماتی مانند ثبت اشتراک و انجام پرداخت را اجرا کنند. از سوی دیگر، نهاد امنیت مالی کره جنوبی در اوایل ماه جاری معیارهایی برای ارزیابی امنیت عوامل هوش مصنوعی تدوین کرده است که کنترل اختیارات اجرایی این عوامل و وجود سازوکارهای توقف اضطراری را بررسی می‌کند. با این حال، قرار است این معیارها پس از انجام آزمایش‌های اعتبارسنجی تا پایان سال جاری، از سال آینده به‌طور رسمی اجرا شوند.