بانک آو آمریکا برای رفع باگ‌های شناسایی‌شده توسط مدل Mythos شرکت Anthropic، ۱۰۰۰ پیمانکار استخدام کرد
بانک آو آمریکا برای رفع موجی از آسیب‌پذیری‌هایی که مدل هوش مصنوعی Mythos شرکت Anthropic شناسایی کرده بود، ۱۰۰۰ پیمانکار خارجی به کار گرفت. برایان موینیهان، مدیرعامل بانک، روز چهارشنبه این موضوع را اعلام کرد.
موینیهان در جریان نشست اعلام نتایج مالی سه‌ماهه سوم بانک گفت این مؤسسه در سه‌ماهه دوم سال پیمانکاران را استخدام کرده و آنها همچنان در بانک مشغول به کار هستند. او گفت بانک برای اقدامات اصلاحی مرتبط با یافته‌های Mythos و همچنین دستورهای صادرشده در همین هفته درباره مبارزه با پول‌شویی، «بیش از چندصد میلیون دلار» هزینه کرده است.
موینیهان به CNBC گفت بانک زمانی به کمک نیروهای خارج از سازمان روی آورد که حجم کار اصلاح و رفع آسیب‌پذیری‌ها از ظرفیت تیم فعلی فراتر رفت. Anthropic مدل Mythos را به‌عنوان مدلی معرفی کرده بود که می‌تواند حوزه امنیت سایبری را دگرگون کند و نتایج اولیه نیز تا حدی این ادعا را تأیید کرد: این مدل توانست آسیب‌پذیری‌های پیچیده را سریع‌تر از پژوهشگران انسانی شناسایی کند و در نتیجه، حجم زیادی از موارد نیازمند اصلاح ایجاد شد که به نیروی انسانی بیشتری احتیاج داشت.
کاربران اولیه، توانمندی می‌بینند نه جادو
نتایج به‌دست‌آمده در سازمان‌های دیگر نیز نشان می‌دهد Mythos بیشتر به‌عنوان ابزاری برای افزایش توان پژوهشگران عمل می‌کند تا جایگزینی برای متخصصان ماهر. بابی هالی، مدیر فناوری Mozilla، در ماه آوریل گفت Mythos در نسخه ۱۵۰ فایرفاکس ۲۷۱ نقص را شناسایی کرده است و هیچ دسته‌ای از آسیب‌پذیری‌ها را نیافته که انسان‌ها نتوانند آن را شناسایی کنند.
هالی گفت: «ما همچنین تاکنون با هیچ باگی مواجه نشده‌ایم که یک پژوهشگر انسانی نخبه نتواند آن را پیدا کند.»
۱۰۰۰ پیمانکار جدید به ۳۰۰۰ نیروی فنی موجود در بانک آو آمریکا پیوستند. موینیهان گفت انتظار می‌رود با پاک شدن انباشت اولیه موارد نیازمند اصلاح، نیاز بانک به کمک پیمانکاران نیز به‌تدریج کاهش یابد.
صرفه‌جویی و تعدیل نیرو با هوش مصنوعی، همزمان با هزینه‌های رفع آسیب‌پذیری
موینیهان به تحلیلگران گفت بانک توان بهره‌وری نیروی مهندسی فناوری خود را حدود ۱۰ درصد افزایش داده است. انتظار می‌رود هر یک از حدود ۱۳۰ پروژه هوش مصنوعی که اکنون در بانک در حال اجرا هستند، در طول زمان دو تا سه برابر هزینه خود بازده ایجاد کنند. موینیهان برای سال ۲۰۲۶ پیش‌بینی می‌کند پروژه‌های هوش مصنوعی بین ۲۵۰ تا ۳۰۰ میلیون دلار منفعت ایجاد کنند و این رقم تا پایان سال ۲۰۲۷ به ۷۰۰ میلیون دلار برسد. او توضیحی درباره نحوه محاسبه این ارقام ارائه نکرد.
این بانک همچنین حدود ۳۰۰۰ موقعیت شغلی را حذف کرده است که کاهش ۵ درصدی تعداد مدیران نیز در میان آنها قرار دارد. بانک مشخص نکرده است چه میزان از این کاهش نیرو مستقیماً ناشی از استفاده از هوش مصنوعی بوده است.
جریمه‌های نظارتی همچنان بر نتایج مالی فشار می‌آورند
هزینه‌های رفع آسیب‌پذیری‌های شناسایی‌شده توسط Mythos در شرایطی به بانک تحمیل شد که بانک آو آمریکا همزمان با مشکلات نظارتی بسیار بزرگ‌تری نیز روبه‌رو بود. این بانک با شبکه مقابله با جرایم مالی وزارت خزانه‌داری آمریکا بر سر پرداخت ۱.۲۱ میلیارد دلار برای نقض مقررات به توافق رسید؛ این پرونده به ناتوانی بانک در کنترل خطرات امنیت ملی، از جمله پول‌شویی مرتبط با چین، و گزارش نکردن بیش از ۵ میلیارد دلار فعالیت مشکوک مربوط می‌شد. دفتر کنترل ارز نیز به دلیل قصور بانک در رعایت قانون رازداری بانکی و الزامات مبارزه با پول‌شویی، جریمه‌ای ۷۵۰ میلیون دلاری برای آن تعیین کرد. همچنین بانک برای نقض تحریم‌های مرتبط با ایران، روسیه، مواد مخدر و تروریسم جهانی، با دفتر کنترل دارایی‌های خارجی بر سر پرداخت ۱۱.۶ میلیون دلار به توافق رسید.
این جریمه‌ها به کاهش ۱۷ درصدی سود سه‌ماهه بانک کمک کردند. پس از اعلام نتایج، ارزش سهام بانک صبح چهارشنبه بیش از ۸ درصد کاهش یافت.
موینیهان هزینه‌های پاک‌سازی مشکلات نظارتی و اقدامات اصلاحی مربوط به Mythos را در رقم «بیش از چندصد میلیون دلار» به‌صورت یکجا بیان کرد و مشخص نکرد چه میزان از این مبلغ به هر بخش اختصاص یافته است. با این حال، انتظار می‌رود با کاهش حجم کار رفع آسیب‌پذیری‌ها، نیاز به نیروهای قراردادی نیز کمتر شود.
چه چیزی تغییر می‌کند؟
برای دیگر مؤسساتی که روند عرضه و استفاده از Mythos را دنبال می‌کنند، تجربه بانک آو آمریکا یک درس عملی برای برنامه‌ریزی دارد. وقتی یک مدل هوش مصنوعی بتواند آسیب‌پذیری‌ها را سریع‌تر از انسان‌ها شناسایی کند، گلوگاه کار از مرحله کشف به مرحله رفع آسیب‌پذیری منتقل می‌شود؛ و رفع این آسیب‌پذیری‌ها به نیروی انسانی نیاز دارد. بانک‌ها و شرکت‌های بزرگ که از ابزارهای مشابه استفاده می‌کنند، باید برای افزایش موقت ظرفیت تیم‌های رفع آسیب‌پذیری بودجه در نظر بگیرند، زیرا نقص‌هایی که مدل شناسایی می‌کند، خودبه‌خود برطرف نمی‌شوند.
به گفته موینیهان، با پاک شدن انباشت اولیه آسیب‌پذیری‌ها، هزینه‌های اقدامات اصلاحی نیز به‌مرور کاهش می‌یابد. در این مرحله پیمانکاران می‌توانند کار خود را ترک کنند و تیم مهندسی دائمی بانک بار رسیدگی‌های مستمر را بر عهده بگیرد.
منبع: theregister.com