کرم‌های هوش مصنوعی چیستند و آیا باید نگران آن‌ها باشیم؟
نکات کلیدی
- کرم‌های هوش مصنوعی برنامه‌هایی هستند که خود را تکثیر می‌کنند، به‌طور خودکار در سیستم‌ها گسترش می‌یابند و در جریان فعالیت، با آسیب‌پذیری‌ها و روش‌های مقابله با آن‌ها آشنا می‌شوند.
- دستگاه‌های کوچک‌تر، مانند تلویزیون‌ها و فرهای هوشمند، در معرض خطرند؛ زیرا به‌روزرسانی‌های امنیتی آن‌ها کمتر انجام می‌شود و تدابیر حفاظتی ضعیف‌تری دارند.
- آنتروپیک معتقد است کرم‌های هوش مصنوعی ممکن است ظرف چند ماه به واقعیت تبدیل شوند و کسب‌وکارها باید از همین حالا برای محافظت از خود اقدام کنند.
کرم‌های هوش مصنوعی برنامه‌های رایانه‌ای خودتکثیرشونده‌ای هستند که می‌توانند بدون نیاز به فریب دادن انسان‌ها، از دستگاهی به دستگاه دیگر گسترش یابند و هم‌زمان با شکل‌گیری تهدیدهای جدید، اطلاعات خود را به‌روز کنند.
گزارش تازه‌ای از شرکت آنتروپیک، دستگاه‌های کوچک متصل به اینترنت، از جمله تلویزیون‌های هوشمند، را از اهداف آسیب‌پذیر این حملات معرفی می‌کند؛ زیرا به‌روزرسانی‌های امنیتی این دستگاه‌ها با فاصله‌های زمانی طولانی‌تر و با دقت کمتری انجام می‌شود.
کسب‌وکارها باید بر رعایت اصول پایه امنیت سایبری تمرکز کنند و با حفظ نظارت انسانی، خود را برای حملات سایبری آینده با استفاده از هوش مصنوعی آماده سازند.
کرم‌های هوش مصنوعی چیستند و این اصطلاح از کجا آمده است؟
کرم‌های هوش مصنوعی برنامه‌هایی هستند که خود را تکثیر می‌کنند و به‌طور مستقل در دستگاه‌های متصل به اینترنت گسترش می‌یابند؛ این فعالیت معمولاً با اهداف مخرب انجام می‌شود.
این تهدید در گزارش تازه شرکت آنتروپیک درباره این موضوع شناسایی و تشریح شده است. پژوهشگران توضیح داده‌اند که چگونه یک برنامه توانسته بود بخش‌هایی از خود را میان ۱۵ دستگاه اندروید تی‌وی تقسیم کند و با استفاده از مقدار اندکی از توان هر دستگاه به فعالیت ادامه دهد.
با وجود نام نسبتاً بامزه این بدافزارها، کرم‌های رایانه‌ای پدیده تازه‌ای در دنیای امنیت سایبری نیستند. در شکل سنتی، آن‌ها نوعی بدافزار خودتکثیرشونده هستند که برای انتشار به فریب دادن کاربر نیاز ندارند.
بااین‌حال، میچل اسپایسر، هم‌بنیان‌گذار و مدیر عملیات شرکت Revelion AI، می‌گوید نگرانی اصلی درباره کرم‌های هوش مصنوعی سرعت انتشار آن‌ها نیست. او توضیح می‌دهد: «مسئله این است که هوش مصنوعی می‌تواند یافتن نقاط ضعف، شناسایی اهداف جدید و سوءاستفاده از ارتباط میان سیستم‌ها را کم‌هزینه‌تر کند.»
اسپایسر به Tech.co گفت: «هرچه یک محیط به دستگاه‌ها و سیستم‌های بیشتری متصل باشد، مهاجم ممکن است مسیرهای بیشتری برای نفوذ در اختیار داشته باشد.»
کرم‌های هوش مصنوعی چه تهدیدی ایجاد می‌کنند؟
کرم‌های رایانه‌ای سنتی در گذشته مشکلات و خسارت‌های زیادی ایجاد کرده‌اند، اما با ورود هوش مصنوعی، ماهیت این تهدید تغییر می‌کند. استانیسلاو کازانوف، رئیس بخش راهبردهای تخصصی شرکت توسعه نرم‌افزار Innowise، تفاوت این دو را توضیح می‌دهد.
او به Tech.co گفت: «در گذشته، یک کرم از آسیب‌پذیری مشخصی سوءاستفاده می‌کرد و مدافعان با بستن همان حفره، آن را از کار می‌انداختند. اما یک کرم مبتنی بر عامل هوش مصنوعی، دستورالعمل‌های مربوط به بهره‌برداری از آسیب‌پذیری‌ها را در منابع منتشرشده بررسی می‌کند و رفتارش را برای هر سیستم جدید متناسب با شرایط آن تغییر می‌دهد.»
بنابراین، نگرانی اصلی درباره کرم‌های مبتنی بر هوش مصنوعی این است که بتوانند از رفتارهای قبلی خود بیاموزند و خود را با تدابیر دفاعی موجود سازگار کنند تا همچنان به فعالیت ادامه دهند.
آنتروپیک به‌طور ویژه دستگاه‌های هوشمند را در معرض بیشترین تهدید می‌داند. این دستگاه‌ها معمولاً از تدابیر امنیتی ضعیف‌تری برخوردارند و برخلاف تلفن‌های همراه یا لپ‌تاپ‌ها، به‌روزرسانی‌های امنیتی جدید را با فاصله‌های زمانی طولانی‌تری دریافت می‌کنند.
در فهرست دستگاه‌های آسیب‌پذیر آنتروپیک، فرهای هوشمند، تلویزیون‌های هوشمند، دوربین‌های امنیتی و تجهیزات ویدئوکنفرانس قرار دارند.
کازانوف نیز موافق است که این دسته از دستگاه‌ها بیش از سایر تجهیزات در معرض خطرند. او می‌گوید: «زیرا هرگز به‌روزرسانی نمی‌شوند، تحت نظارت قرار ندارند و معمولاً به همان شبکه‌ای متصل‌اند که سایر دستگاه‌ها از آن استفاده می‌کنند.»
این گزارش در شرایطی منتشر شده است که نگرانی‌ها درباره امنیت هوش مصنوعی به‌شدت افزایش یافته است. چندین چهره برجسته این حوزه، از جمله داریو آمودی از آنتروپیک و سم آلتمن از OpenAI، حتی خواستار کندتر شدن روند توسعه این فناوری شده‌اند تا فرصت کافی برای رسیدگی به مسائل امنیتی فراهم شود.
چگونه می‌توان از خود محافظت کرد؟
قابلیت‌های هوش مصنوعی با سرعت زیادی پیشرفت می‌کنند؛ بنابراین، پیگیری تحولات پیش رو همواره اقدامی عاقلانه است. آنتروپیک معتقد است کرم‌های هوش مصنوعی ممکن است تنها چند ماه با ظهور فاصله داشته باشند؛ زیرا مدل‌های هوش مصنوعی به قابلیت‌های «خودتکثیرشوندگی» دست پیدا می‌کنند.
در گفت‌وگو با کارشناسان متعدد امنیت سایبری درباره نحوه مدیریت این تغییرات، مهم‌ترین توصیه همچنان تقویت اصول پایه امنیت بوده است. رعایت بهترین رویه‌های امنیتی، از جمله فعال کردن احراز هویت دومرحله‌ای، نقطه شروع مناسبی برای افزایش امنیت است.
کازانوف همچنین به کسب‌وکارها توصیه می‌کند که نقش انسان در فرایند تصمیم‌گیری را فراموش نکنند. او درباره مقابله با کرم‌های هوش مصنوعی می‌گوید: «هر چیزی را که یک مدل هوش مصنوعی می‌خواند یا می‌نویسد، داده‌ای بالقوه آلوده در نظر بگیرید و اجازه ندهید هیچ دستیار هوش مصنوعی بدون تأیید انسان، ایمیل، پیام یا سندی ارسال کند.»
بااین‌حال، کازانوف معتقد است برای مقابله با این خطرهای جدید، تغییرات ماندگارتری در سیاست‌گذاری نیز ضروری است. او می‌گوید: «نگرش فعلی این است که اگر کنترل مدل‌های بزرگ را در اختیار داشته باشیم، می‌توانیم خطرها را نیز کنترل کنیم.»
او افزود: «شواهد خلاف این را نشان می‌دهند: خطرها از مدل‌های کوچک و رایگانی ناشی می‌شوند که هر کسی می‌تواند آن‌ها را در هر مکانی اجرا کند.»
آنچه روشن است این است که هوش مصنوعی، در کنار فرصت‌ها و پیشرفت‌های هیجان‌انگیزش، می‌تواند دوره‌ای از خطرهای جدی را نیز به همراه داشته باشد. بنابراین، باید برای مقابله با پیامدهای احتمالی آن آماده باشیم و در عین بهره‌مندی از دستاوردهایش، خطرهای آن را نیز جدی بگیریم.