اختصاصی | قرار بود با هوش مصنوعی جلوی هک مبتنی بر هوش مصنوعی را بگیریم، اما حتی کدهای عادی هم خطرناک تشخیص داده می‌شوند
سازمان نظارت مالی کره جنوبی در حال بررسی امنیت سامانه‌های هوش مصنوعی در شرکت‌های مالی است.
نرخ تشخیص اشتباه آسیب‌پذیری‌های امنیتی به حدود ۴۰ تا ۶۰ درصد می‌رسد.
بررسی‌ها نشان می‌دهد در موارد متعددی، هوش مصنوعی به‌کارگرفته‌شده از سوی شرکت‌های مالی برای شناسایی نقاط ضعف امنیتی، چهار تا شش مورد از هر ۱۰ قطعه کد سالم را نیز به‌اشتباه تهدید امنیتی تشخیص می‌دهد. سامانه‌های امنیتی مبتنی بر هوش مصنوعی در تحلیل سریع حجم عظیمی از کدهای منبع توانایی بالایی دارند، اما برای حذف هشدارهای اشتباه همچنان به بررسی و تأیید انسانی نیاز است.
لی اوک‌وون، رئیس کمیسیون خدمات مالی کره جنوبی، اخیراً در واکنش به حملات هکری مبتنی بر هوش مصنوعی در بخش مالی، بر ضرورت ایجاد «سامانه امنیتی که با هوش مصنوعی در برابر حملات هوش مصنوعی محافظت کند» تأکید کرده بود. بااین‌حال، کارشناسان می‌گویند پیش از آنکه چنین رویکردی در محیط‌های عملیاتی امنیتی به‌طور گسترده جا بیفتد، هنوز مشکلات متعددی باید برطرف شود.
بر اساس داده‌هایی که کیم هیونگ‌یون، نماینده حزب نوآوری جو گوک و عضو کمیته سیاست ملی مجلس ملی کره جنوبی، در ۱۹ اکتبر ارائه کرد، آزمایش‌های امنیتی انجام‌شده از سوی مؤسسه امنیت مالی کره روی شرکت‌های مالی مشمول تسهیل مقررات جداسازی شبکه، موارد متعددی از شناسایی اشتباه کدهای عادی به‌عنوان آسیب‌پذیری امنیتی را آشکار کرده است.
در این آزمایش‌ها، کد منبع برنامه‌های تشکیل‌دهنده خدمات مالی با استفاده از هوش مصنوعی تحلیل شد تا آسیب‌پذیری‌های امنیتی شناسایی شوند. ماه گذشته، ۱۰ شرکت مالی منتخب، از جمله بانک شین‌هان، بانک هانا و بانک ووری، در این بررسی شرکت کردند. مقررات جداسازی شبکه برای این شرکت‌ها به‌طور موقت تسهیل شده بود تا بتوانند از هوش مصنوعی برای اهداف امنیتی استفاده کنند.
نتایج بررسی نشان داد که هوش مصنوعی در ۴۰ تا ۶۰ درصد موارد، کدهای عادی را به‌اشتباه آسیب‌پذیری امنیتی تشخیص داده است. دلیل اصلی این خطاها آن بود که سامانه تنها بخشی از کد را بررسی می‌کرد و درک کاملی از ساختار اجرایی برنامه و جریان داده‌ها در سراسر آن نداشت.
برای مثال، ممکن است مقداری در داخل برنامه ثابت باشد و از بیرون امکان تغییر آن وجود نداشته باشد، اما هوش مصنوعی به‌اشتباه تصور کند که مهاجم می‌تواند آن را دست‌کاری کند. این هشدار نادرست زمانی ایجاد می‌شود که سامانه مسیر کامل تولید مقدار و انتقال آن به بخش‌های دیگر برنامه را دنبال نمی‌کند.
همچنین مشخص شده است که تدابیر امنیتی از پیش پیاده‌سازی‌شده در تحلیل هوش مصنوعی به‌درستی لحاظ نمی‌شوند. برای نمونه، ممکن است هوش مصنوعی احتمال دور زدن سازوکار احراز هویت را مطرح کند، زیرا در بررسی خود در نظر نمی‌گیرد که سامانه‌های موجود هویت کاربران را تأیید می‌کنند یا ورودی‌های خطرناک دریافتی از بیرون را فیلتر می‌کنند. بنابراین، کدی که به‌تنهایی آسیب‌پذیر به نظر می‌رسد، لزوماً در ساختار کلی برنامه و با وجود تدابیر امنیتی موجود، امکان بهره‌برداری برای حمله واقعی را فراهم نمی‌کند.
افزایش هشدارهای اشتباه ناگزیر بار کاری مسئولان امنیت و توسعه‌دهندگان را بیشتر می‌کند؛ زیرا باید تک‌تک موارد اعلام‌شده از سوی هوش مصنوعی را بررسی کنند تا مشخص شود آیا امکان اجرای حمله واقعی وجود دارد و آیا سایر سازوکارهای امنیتی به‌درستی عمل می‌کنند یا خیر. مؤسسه امنیت مالی کره در این باره هشدار داد: «هشدارهای نادرست ناشی از کمبود درک زمینه، مستقیماً بار بررسی اثربخشی را بر دوش نیروی انسانی می‌گذارند.»