هوش مصنوعی چگونه می‌تواند به مشاوران در تدوین راهبرد امنیت سایبری کمک کند؟
در عمل | ۲۸ اکتبر ۲۰۲۶
گزارشگر: والنتینا بائز
حملات سایبری متأسفانه برای تیم‌های پشتیبانی فناوری شرکت‌ها پدیده‌ای ناآشنا نیستند؛ بااین‌حال، بسیاری از این حملات می‌توانند درس‌هایی برای سایر تیم‌ها داشته باشند.
اوایل همین ماه، هکرها با استفاده از عامل‌های هوش مصنوعی بیش از ۲۲۵۰ سازمان مشترک سرویس ابری مایکروسافت ۳۶۵ را از طریق پلتفرم کانکت‌وایز هدف قرار دادند. این حمله پرسش‌هایی را درباره نقش هوش مصنوعی در حملات سایبری مطرح کرد.
با ادامه توسعه زیرساخت‌های فناوری و راهبردهای امنیتی شرکت‌های فعال در حوزه خدمات مالی، متخصصان این صنعت می‌گویند توجه هم‌زمان به نحوه استفاده از هوش مصنوعی و راه‌های محافظت در برابر تهدیدهای ناشی از آن ضروری است.
متیو وندر، مدیر خدمات دیجیتال و برنامه‌ریز مالی امانی در شرکت فرانسیس، می‌گوید: «ما هوش مصنوعی را ابزاری بسیار قدرتمند می‌دانیم. می‌خواهیم کارکنانمان از آن استفاده کنند، چون بهره‌وری آن‌ها را افزایش می‌دهد. بااین‌حال، مانند هر ابزار قدرتمند دیگری، این فناوری هم می‌تواند فواید زیادی داشته باشد و هم آسیب‌های زیادی ایجاد کند؛ حتی ممکن است به خودتان صدمه بزنید.»
به گفته وندر، شرکت‌ها باید میان دغدغه‌های امنیت سایبری و نیاز به حفظ نوآوری فناورانه تعادل برقرار کنند. او معتقد است مؤثرترین راه دفاعی، تغییر نگرش و ایجاد تحول فرهنگی در زمینه هوش مصنوعی و امنیت سایبری است.
وندر می‌گوید: «مهم‌ترین عامل کنترلی در امنیت، یک نرم‌افزار نیست؛ بلکه فرهنگی است که در آن افراد درک می‌کنند حفاظت از داده‌ها بخشی از مسئولیت حرفه‌ای آن‌هاست.»
تام کوئین، مدیر ارشد امنیت اطلاعات در شرکت تی. رو پرایس، می‌گوید کنترل کامل امنیت سایبری اغلب دشوار است.
وقتی از کوئین پرسیده شد که امنیت سایبری را چگونه تعریف می‌کند، پاسخ داد: «امنیت سایبری شبیه جادو به نظر می‌رسد و شما نمی‌توانید جادو را مدیریت کنید.»
«داده، نفت جدید است»
وندر می‌گوید با افزایش ارزش داده‌های مشتریان و شرکت‌ها، سازمان‌ها باید این واقعیت را درک کنند که «داده، نفت جدید است».
آژانس امنیت ملی آمریکا نیز هفته گذشته در اطلاعیه‌ای بر اهمیت حفاظت از داده‌ها و سامانه‌ها تأکید کرد. این آژانس اعلام کرد وصله‌ای امنیتی و حیاتی برای PHP منتشر شده است که وب‌سایت‌های عمومی باید برای جلوگیری از حملات سایبری از آن استفاده کنند.
همچنین آژانس امنیت ملی آمریکا، در کنار مرکز پیشبرد نوآوری و استاندارد هوش فوق‌هوشمندِ مؤسسه ملی استانداردها و فناوری و آژانس امنیت سایبری و زیرساخت آمریکا، در همان هفته راهنمایی منتشر کرد تا سازمان‌ها برای رخدادهای مرتبط با کنترل هوش مصنوعی آماده شوند و نحوه مدیریت آن‌ها را بدانند.
توصیه اخیر آژانس امنیت ملی درباره نصب وصله امنیتی و راهنمای منتشرشده از سوی این نهادها نمونه‌هایی از تحول ابزارهای بیرونی برای مقابله دقیق‌تر با حملات سایبری پیچیده هستند.
در داخل سازمان‌ها نیز اجرای همان تحول فرهنگی که وندر به آن اشاره می‌کند، اهمیت فزاینده‌ای خواهد داشت. کارشناسان می‌گویند شرکت‌ها می‌توانند برای مقابله با حملات پیچیده راهبرد تدوین کنند و سیاست‌های مشخصی درباره هوش مصنوعی و امنیت سایبری داشته باشند؛ اما این برنامه‌ها باید به کارکنان آموزش داده شوند و در فرایندهای کاری شرکت جای بگیرند.
کوئین می‌گوید: «بدون فناوری نمی‌توان از فناوری محافظت کرد.»
شرکت‌هایی که بیش از حد محتاط‌اند و برای محافظت از خود از فناوری‌های نوآورانه‌ای مانند هوش مصنوعی مولد و هوش مصنوعی عامل‌محور دوری می‌کنند، ممکن است در نهایت برای حفظ امنیت خود با دشواری بیشتری روبه‌رو شوند؛ به‌ویژه اگر فناوری مورد استفاده آن‌ها قدیمی بماند.
کوئین می‌گوید: «باید همگام با تغییرات پیش بروید. همه در امنیت سایبری و در نحوه به‌کارگیری هوش مصنوعی مولد و عامل‌محور نقش دارند. شرکت‌هایی که این فناوری‌ها و الزامات مرتبط با انطباق، امور حقوقی، حریم خصوصی، منابع انسانی و فناوری را نمی‌پذیرند، ممکن است با مشکل مواجه شوند.»
آموزش منظم کارکنان نیز به‌تدریج اهمیت بیشتری پیدا می‌کند.
وندر می‌گوید: «باید به افراد آموزش دهید که چگونه با رعایت اصول ایمنی از هوش مصنوعی استفاده کنند و حفاظت از داده‌ها را در اولویت قرار دهند. اگر بخواهید از ابزار دیگری استفاده کنید، می‌خواهیم ابتدا تأییدیه بگیرید. باید مطمئن شویم که از نظر قراردادی تضمین شده است که آن فناوری، مدل زبانی بزرگ یا عامل هوش مصنوعی نمی‌تواند داده‌های ما را دریافت کند و در معرض افشا قرار دهد.»
مقابله با انواع کلاهبرداری‌های مبتنی بر جعل هویت
یکی از تهدیدهای سایبری رایجی که شرکت‌های مشاوره سرمایه‌گذاری ثبت‌شده به‌طور فزاینده‌ای با آن مواجه‌اند، مجموعه‌ای از کلاهبرداری‌هاست که سازمان تنظیم مقررات صنعت مالی آمریکا آن‌ها را با اصطلاح «-ishing» معرفی می‌کند.
در مقاله‌ای که اخیراً سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) منتشر کرده است، سه نوع رایج کلاهبرداری سایبری معرفی شده‌اند: «فیشینگ» از طریق ایمیل، «اسمیشینگ» از طریق پیامک یا پیام رمزگذاری‌شده و «ویشینگ» از طریق تماس تلفنی یا پیام صوتی. در این شیوه‌ها، کلاهبرداران اغلب خود را نماینده مؤسسات مالی، سرویس‌های پرداخت الکترونیکی، شرکت‌های تحویل مرسوله، پلتفرم‌های امضای الکترونیکی یا خدمات مشابه معرفی می‌کنند.
پیشرفت هوش مصنوعی، از جمله توسعه ویدئوهای دیپ‌فیک و شبیه‌سازی صدا، این کلاهبرداری‌ها را نیز پیچیده‌تر کرده است.
وندر می‌گوید شرکت او برای کارکنان و مشتریان دوره‌های آموزشی برگزار می‌کند تا آن‌ها با نیازهای مهم امنیتی آشنا شوند.
او می‌گوید: «این پیام‌ها گاهی بدون هیچ مقدمه‌ای برای کارکنان فرستاده می‌شوند تا ببینیم چگونه به آن‌ها واکنش نشان می‌دهند و در کدام بخش‌ها به آموزش بیشتری نیاز داریم.»
به گفته او، چنین آموزش‌هایی برای مشتریان نیز ارائه می‌شود تا برای مواجهه با موقعیت‌های غیرمنتظره آمادگی داشته باشند.
در مقاله FINRA، به شرکت‌ها و مشتریان توصیه شده است هنگام فعالیت در فضای آنلاین هوشیار باشند و به پیام‌های غیرمنتظره با دیده تردید نگاه کنند. اشتباه املایی در نام شرکت‌ها و نشانی‌های اینترنتی نامنظم از نشانه‌های روشن فیشینگ معرفی شده‌اند؛ بااین‌حال، کلاهبرداران با کمک فناوری‌های جدید روش‌های خود را نیز توسعه داده‌اند.
FINRA اعلام کرده است: «این کلاهبرداری‌ها اکنون گاهی عناصر هوش مصنوعی مولد را نیز در خود جای می‌دهند و همین مسئله تشخیص آن‌ها از ارتباطات واقعی را دشوار می‌کند.»
کوئین نیز بر اهمیت تقویت ابزارهای فناورانه برای شناسایی رفتارهای متقلبانه تأکید می‌کند؛ زیرا هوش مصنوعی تشخیص این رفتارها را برای انسان دشوارتر کرده است.
او می‌گوید: «ابزارهای هوش مصنوعی وجود دارند که ناهنجاری‌های صوتی و تصویری را شناسایی می‌کنند. هنگام بررسی راه‌های محافظت از فرایندهای کسب‌وکار، باید این ابزارها را نیز در نظر گرفت. به اعتقاد من، در آینده شاهد به‌کارگیری سامانه‌های عامل‌محور برای شناسایی ناهنجاری‌ها در حوزه‌های حقوقی، انطباق، منابع انسانی، امنیت سایبری و مدیریت ریسک خواهیم بود؛ سامانه‌هایی که در کنار یکدیگر و در چارچوب فرایندهای کسب‌وکار فعالیت می‌کنند.»