هوش مصنوعی در دفاع سایبری به کار می‌آید، اما هنگام بررسی بدافزار همکاری نمی‌کند
یو دوک‌گی | سئول
خبرگزاری آمریکایی اکسیوس روز ۲۰ اکتبر به وقت محلی گزارش داد که یک سامانه هوش مصنوعی که برای کمک به تیم امنیتی در بازیابی و رفع پیامدهای یک حمله سایبری به کار گرفته شده بود، هنگام بررسی بدافزار از همکاری خودداری کرد.
بر اساس این گزارش، عامل کدنویسی متن‌باز «OpenCode» آخر هفته گذشته هدف یک رخنه امنیتی قرار گرفت و در پی آن، شماری از کلیدهای رابط برنامه‌نویسی کاربردی (API) مشتریان این ابزار به دست هکرها افتاد.
کلیدهای افشاشده به سرویس‌های اوپن‌ای‌آی، آنتروپیک و گوگل تعلق داشتند.
OpenCode اعلام کرد که این رخنه با یک «حمله گسترده برای استخراج دانش از مدل» مرتبط بوده و ۱.۴ درصد از کاربران کنسول این ابزار را تحت تأثیر قرار داده است.
دکس رعد، از خالقان OpenCode، توضیح داد که مهاجمان به مدت ۴۸ ساعت بی‌وقفه به سامانه این ابزار حمله کردند و در نتیجه، OpenCode ناچار شد عامل‌های هوش مصنوعی خود را به‌صورت شبانه‌روزی برای مقابله با حملات به کار بگیرد.
اوپن‌ای‌آی، گوگل و آنتروپیک اعلام کردند که برای لغو کلیدهای API افشاشده و حل‌وفصل مشکلات مربوط به هزینه‌های ناشی از استفاده غیرمجاز، با مشتریان آسیب‌دیده همکاری کرده‌اند.
رعد در پستی که روز ۱۸ اکتبر در شبکه اجتماعی ایکس منتشر کرد، درباره این اتفاق نوشت که مدل‌های پیشرفته هوش مصنوعی در ابتدا به بررسی رخداد کمک کردند، اما بعد «شروع به امتناع کردند».
گزارش‌ها حاکی است که OpenCode هنگام بررسی حادثه با کدهایی سروکار داشت که احتمال مخرب بودن آن‌ها وجود داشت. در چنین شرایطی، محدودیت‌های ایمنی تعبیه‌شده در مدل‌های هوش مصنوعی مانع اجرای درخواست‌ها شدند؛ این اتفاق در حالی رخ داد که هدف سامانه، دفاع از خود و مقابله با حمله بود.
OpenCode پس از آن به برنامه «Daybreak Blue» شرکت اوپن‌ای‌آی دسترسی پیدا کرد. این برنامه به مدافعان امنیت سایبری که صلاحیت آن‌ها تأیید شده است، امکان استفاده از مدل‌هایی را می‌دهد که محدودیت‌های کمتری دارند.
رعد روز ۱۹ اکتبر در ایکس نوشت: «قطعاً باید رویکرد فعالانه‌تری در پیش بگیریم و طی چند روز گذشته، واقعاً تغییرات و بهبودهای زیادی ایجاد کرده‌ایم.»
اکسیوس ارزیابی کرد که این حادثه دوراهی پیش روی تیم‌های امنیت سایبری را برجسته می‌کند: آن‌ها باید تصمیم بگیرند از چه مدل‌های هوش مصنوعی و در چه زمانی استفاده کنند؛ مدل‌های اختصاصی قدرتمند که محدودیت‌های داخلی دارند یا مدل‌های با وزن‌های باز که کنترل بیشتری بر نحوه استقرار و بهره‌برداری از آن‌ها فراهم می‌کنند.
در جریان رخنه امنیتی شرکت هاجینگ‌فیس (Hugging Face)، این شرکت فعالیت‌های مشکوکی را در سامانه‌های خود شناسایی کرد و بعداً ارتباط آن‌ها را با عامل‌های هوش مصنوعی متعلق به خود اوپن‌ای‌آی تشخیص داد.
در آن مقطع، تیم امنیتی هنگام مواجهه با محدودیت‌های استفاده از مدل‌های پیشرفته، برای انجام بررسی‌ها از یک مدل با وزن‌های باز ساخت چین استفاده کرد.
با این حال، اکسیوس یادآور شد که شرکت‌های هوش مصنوعی همچنان بر این موضع تأکید دارند که دسترسی به قدرتمندترین مدل‌هایشان باید محدود باشد تا از سوءاستفاده مهاجمان از قابلیت‌های سایبری این مدل‌ها جلوگیری شود.
کریس جونز، مدیر ارشد فناوری شرکت نایت‌وینگ (Nightwing)، به اکسیوس گفت تیم‌های امنیت سایبری باید راهی پیدا کنند تا نیاز به بهره‌گیری از هوش مصنوعی برای دفاع سریع‌تر را با محدودیت‌هایی متعادل کنند که برای جلوگیری از افتادن همین قابلیت‌ها به دست مهاجمان طراحی شده‌اند.
او افزود: «در نهایت، همه ما باید راهی برای مدیریت و هماهنگ‌کردن این رقابت پیدا کنیم.»