چرا متوقف کردن کرم‌های رایانه‌ای با هوش مصنوعی دشوارتر می‌شود
هشدار شرکت آنتروپیک درباره این‌که «کرم‌های» مجهز به هوش مصنوعی ممکن است به‌زودی در میان ابزارهای هوشمند گسترش پیدا کنند، تازه‌ترین مورد از مجموعه پژوهش‌هایی است که نشان می‌دهد هوش مصنوعی چگونه می‌تواند بدافزارهای خودانتشار را تقویت کند.
کرم رایانه‌ای نوعی نرم‌افزار مخرب است که می‌تواند به‌صورت مستقل از یک دستگاه به دستگاه دیگر منتقل شود.
در ماه ژوئن، نیکلاس پاپرنو، دانشیار مهندسی برق و کامپیوتر در دانشگاه تورنتو، به همراه تیمی از پژوهشگران نمونه اولیه‌ای از یک کرم هوش مصنوعی را با استفاده از مدل‌های هوش مصنوعی رایگان ساختند.
پاپرنو که یکی از امضاکنندگان نامه‌ای سرگشاده درباره توصیه‌های سیاستی برای قانون‌گذاران است، در گفت‌وگو با خبرگزاری فرانسه توضیح داد چرا هوش مصنوعی متوقف کردن چنین حملاتی را دشوارتر می‌کند. این مصاحبه برای طول و وضوح بیشتر ویرایش شده است.
پرسش: هوش مصنوعی چگونه این نوع حملات را تغییر می‌دهد؟
پاسخ: واقعیت این است که بسیاری از دستگاه‌های «اینترنت اشیا» (IoT) یا ابزارهای متصل خانگی، استانداردهای امنیت سایبری بسیار ضعیفی دارند و به همین دلیل اهداف بسیار آسانی برای نفوذگران محسوب می‌شوند.
در گذشته، یک کرم رایانه‌ای معمولاً مجموعه مشخصی از آسیب‌پذیری‌ها را هدف قرار می‌داد. بنابراین می‌شد با برطرف کردن آن آسیب‌پذیری‌ها، از گسترش بیشتر کرم به دستگاه‌هایی که به‌روزرسانی شده بودند جلوگیری کرد.
اما اکنون با کمک هوش مصنوعی، مهاجم می‌تواند کرمی طراحی کند که راهبرد حمله را با ویژگی‌های خاص هر دستگاه تنظیم کند و آسیب‌پذیری‌ها نیز ممکن است از دستگاهی به دستگاه دیگر متفاوت باشند.
این مسئله قطع زنجیره انتشار یک کرم رایانه‌ای مبتنی بر هوش مصنوعی را به‌طور قابل توجهی دشوارتر می‌کند، زیرا باید همه آسیب‌پذیری‌های احتمالی دستگاه‌ها را پیش‌بینی کرد.
برخی از این آسیب‌پذیری‌ها حتی نقص نرم‌افزاری نیستند. آن‌ها می‌توانند ناشی از پیکربندی‌های اشتباه باشند؛ برای مثال، زمانی که فردی از یک گذرواژه یکسان برای چند سرویس استفاده می‌کند یا یک پایگاه داده را به‌درستی پیکربندی نکرده است.
بدافزارهای مبتنی بر هوش مصنوعی سرعت سوءاستفاده از این آسیب‌پذیری‌ها و همچنین مقیاس این حملات را افزایش می‌دهند.
در گذشته، کافی‌شاپ محلی شما یا لپ‌تاپی در زیرزمین خانه که به‌ندرت از آن استفاده می‌کنید، شاید به‌روز نبوده باشد، اما معمولاً هدف مهاجم انسانی قرار نمی‌گرفت؛ زیرا مهاجمان منابع و زمان لازم برای بررسی چنین اهدافی را نداشتند.
اکنون استقلالی که استفاده از هوش مصنوعی ایجاد می‌کند، باعث می‌شود همه این دستگاه‌هایی که پیش‌تر اهداف فوری محسوب نمی‌شدند، به اهداف جالبی برای استفاده به‌عنوان سکوی پرتاب حمله به اهداف مهم‌تر تبدیل شوند.
با این حال باید در نظر داشت که یک انسان همچنان عامل هوش مصنوعی را راه‌اندازی می‌کند. پس از راه‌اندازی، این عامل می‌تواند همان‌طور که ما در پژوهش خود نشان دادیم، تکثیر شود، اما آغاز این فرایند توسط انسان انجام می‌شود.
پرسش: برای کاهش این خطرها چه می‌توان انجام داد؟
پاسخ: ما نمی‌توانیم خطر را به صفر برسانیم و باید بپذیریم که با وجود در دسترس بودن برخی اصلاحات امنیتی، بسیاری از افراد دستگاه‌های خود را به‌روزرسانی نمی‌کنند یا این اصلاحات را به‌موقع اعمال نمی‌کنند.
با وجود درخواست کارشناسان امنیت سایبری برای افزایش سطح امنیت دیجیتال در چند دهه گذشته، هنوز در جهانی زندگی می‌کنیم که سرمایه‌گذاری بیشتری برای بهبود امنیت سامانه‌های رایانه‌ای امکان‌پذیر است.
ما در کوتاه‌مدت سه اقدام اصلی را پیشنهاد می‌کنیم.
نخست، باید شیوه‌های توسعه و آزمایش تغییر کند تا اطمینان حاصل شود مدل‌های هوش مصنوعی در ابتدا از اینترنت جدا باشند. این اقدام احتیاطی کمک می‌کند رفتار آن‌ها بهتر درک شود، پیش از آن‌که زیرساخت‌های حیاتی به اینترنت و این مدل‌ها متصل شوند.
دومین پیشنهاد، ایجاد یک نهاد بین‌المللی برای استانداردسازی نحوه آموزش و مهار مدل‌های هوش مصنوعی است. هر دو موضوع اهمیت دارند؛ ما می‌خواهیم مدل‌هایی بسازیم که ایمن‌تر باشند.
بخش پایانی مربوط به اجباری کردن گزارش‌دهی رخدادهای امنیتی است. در حال حاضر، اطلاعات موجود تنها بر اساس میزان اطلاعاتی است که توسعه‌دهندگان هوش مصنوعی تصمیم می‌گیرند منتشر کنند و این یک مشکل بزرگ است.
به‌ویژه جامعه دانشگاهی برای توسعه سریع‌تر راهکارهای مقابله، به اطلاعات بسیار بیشتری درباره رخدادهای امنیتی نیاز دارد.
در غیر این صورت، پیش از آن‌که بتوانیم راهکارهای دفاعی ایجاد کنیم، مجبور خواهیم بود زمان زیادی را صرف شناخت تهدید کنیم. در چنین شرایطی، تا زمانی که حمله‌ای رخ ندهد، از اقدام‌های مهاجمان مخرب آگاه نخواهیم شد.