هشدار آنتروپیک درباره تهدید کرم‌های هوش مصنوعی خودتکثیرشونده
مهار این کرم‌ها بسیار دشوار خواهد بود، زیرا هیچ مرکز کنترل واحدی برای متوقف کردن آن‌ها وجود ندارد.
۱۴ اکتبر ۲۰۲۶
شرکت آنتروپیک در تازه‌ترین پژوهش خود اعلام کرده است که مدل‌های کوچک هوش مصنوعی شاید تنها «چند ماه» با دستیابی به توانایی تکثیر خود و گسترش میان دستگاه‌های متصل به اینترنت فاصله داشته باشند. اگر این عامل‌های هوشمند بتوانند بدون کنترل انسان خود را تکثیر کنند، مهار آن‌ها دشوار خواهد شد؛ زیرا در شبکه‌ای از دستگاه‌های مصرفی، مرکز کنترل واحدی وجود ندارد که بتوان با خاموش کردن آن، فعالیت همه عامل‌ها را متوقف کرد.
آنتروپیک توضیح داده است که مدل‌های هوش مصنوعی چگونه می‌توانند با استفاده از توان پردازشی دستگاه‌ها، خود را اجرا کنند و بدون نیاز به مراکز داده پرهزینه، به دستگاه‌های دیگر گسترش یابند. به گفته پژوهشگران این شرکت، دستگاه‌های هوشمند خانگی و تجهیزات متصل به اینترنت، از جمله دوربین‌های امنیتی، در برابر چنین تهدیدی آسیب‌پذیرند؛ زیرا تجهیزات متصل به اینترنت معمولاً از حفاظت امنیتی ضعیف‌تری برخوردارند.
پژوهشگران در توصیف بدترین سناریوی ممکن گفته‌اند مجموعه‌ای از عامل‌های هوش مصنوعی که برای دستیابی به هدفی مشترک با یکدیگر همکاری می‌کنند، ممکن است با استفاده از «سازوکارهای تکثیر» در میان سخت‌افزارهای رایانه‌ای گسترش یابند. بااین‌حال، آن‌ها هنوز نمی‌دانند چنین حملاتی دقیقاً چه شکلی خواهند داشت. به گفته پژوهشگران، این مدل‌ها ممکن است مانند نوعی «کپک مخاطی دیجیتال» در شبکه پخش شوند یا در قالب مدل‌های قدرتمندتری ظاهر شوند که توانایی نفوذ به مراکز داده را دارند.
این شرکت تأیید کرده است که هنوز هیچ «عامل تکثیرشونده کاملاً خارج از کنترل» وجود ندارد. اگرچه تمرکز اصلی این تهدید ظاهراً بر دستگاه‌های هوشمند خانگی است، مرحله بعدی تکامل چنین عاملی می‌تواند هدف قرار دادن دارایی‌های فناوری عملیاتی (OT) در محیط کارخانه‌ها یا بخش‌های مختلف زیرساخت‌های حیاتی باشد. پیش‌تر نیز پیامدهای تشدید حملات سایبری علیه تأسیسات متعدد تصفیه آب مشاهده شده است؛ حملاتی که احتمال می‌رود ابزارهای هوش مصنوعی به گسترش سریع‌تر آن‌ها کمک کرده باشند.
انتشار این گزارش واکنش‌های گسترده‌ای را در صنعت امنیت سایبری به دنبال داشته است.
جان گالاگر، معاون شرکت Viakoo
«دستگاه‌های فناوری عملیاتی و اینترنت اشیا (OT/IoT) مدت‌هاست که به دلیل نبود سازوکارهای مؤثر و خودکار برای رعایت اصول بهداشت امنیت سایبری، از اهداف مطلوب بات‌نت‌ها بوده‌اند. بات‌نت میرای در سال ۲۰۱۶ عمدتاً از دستگاه‌های ضبط ویدئو و تجهیزات مرتبط برای اجرای حملات گسترده استفاده کرد. در سال‌های اخیر نیز بات‌نت‌هایی مانند KimWolf ظهور کرده‌اند.
«اما تهدید جدید متفاوت است. بات‌نت‌های سنتی بر اسکریپت‌های ثابت متکی هستند، درحالی‌که آزمایش‌های آنتروپیک نشان می‌دهد مدل‌های امروزی می‌توانند بدون راهنمایی انسان، خود را در لحظه با محیط سازگار کنند. این قابلیت، بدافزارهای تجهیزات فناوری عملیاتی و اینترنت اشیا را از اسکریپت‌های انعطاف‌ناپذیری که به زیرساخت فرماندهی و کنترل نیاز دارند، به عامل‌های سازگاری تبدیل می‌کند که اگر تلاش اولیه برای نصب ناموفق باشد، می‌توانند روش خود را تغییر دهند و مسیر دیگری را امتحان کنند.
«این قابلیت را می‌توان یک پیشرفت مهم دانست، زیرا از توانایی مدل‌های پیشرفته هوش مصنوعی برای کار کردن و سازگار شدن با سیستم‌عامل‌های گوناگون بهره می‌گیرد. در تجهیزات فناوری عملیاتی و اینترنت اشیا بیش از ۱۵۰ هزار سیستم‌عامل متمایز وجود دارد. بدون هوش مصنوعی، این تنوع مانعی جدی بر سر راه گسترش بات‌هایی بود که روی چنین دستگاه‌هایی قرار می‌گیرند.
«جدول زمانی آنتروپیک برای تحقق عملی خودتکثیری هوش مصنوعی در مقیاس محلی یا در تجهیزات لبه شبکه، طی ۱۲ تا ۲۴ ماه آینده بسیار واقع‌بینانه به نظر می‌رسد. اما اگر این پیش‌بینی به معنای ظهور ناگهانی یک «کپک مخاطی دیجیتال» در سراسر جهان تعبیر شود، اغراق‌آمیز خواهد بود. هرچند دستگاه‌های امروزی فناوری عملیاتی و اینترنت اشیا در مقایسه با سامانه‌های قدیمی از توان پردازشی و فضای ذخیره‌سازی بسیار بیشتری برخوردارند، همچنان موانع دیگری بر سر راه خودتکثیری عملی هوش مصنوعی وجود دارد. برای مثال، انتقال چندین گیگابایت وزن مدل از طریق ارتباطات سلولی یا اتصال‌های کم‌پهنای‌باند تجهیزات صنعتی و اینترنت اشیا، یا ذخیره این داده‌ها در حافظه‌های فلش با ظرفیت محدود، همچنان چالشی عملی و بسیار بزرگ است.
«خودکارسازی اقدامات بهداشت امنیت سایبری در دستگاه‌های فناوری عملیاتی و اینترنت اشیا دیگر یک انتخاب نیست، بلکه ضرورتی اجتناب‌ناپذیر است. مدافعان نمی‌توانند برای محافظت از تجهیزات لبه شبکه به ناشناخته ماندن دستگاه‌ها یا توان پردازشی پایین آن‌ها تکیه کنند. همه این دستگاه‌ها باید به سازوکارهای خودکار برای اعمال وصله‌های میان‌افزار، مدیریت فعال گواهی‌های دیجیتال و تغییر دوره‌ای و خودکار گذرواژه‌ها مجهز باشند تا مسیرهای نفوذ اولیه به‌طور کامل بسته شوند. این واقعیت، تصور رایج مبنی بر اینکه مجرمان سایبری حتماً به توان پردازشی قدرتمند یا زیرساخت‌های فناوری اطلاعات نیاز دارند را بی‌اعتبار می‌کند.
«مدافعان امنیت سایبری در گذشته تصور می‌کردند مدل‌های پیشرفته هوش مصنوعی به پردازنده‌های گرافیکی گران‌قیمت مراکز داده نیاز دارند. بر همین اساس، فرض می‌شد حمله مبتنی بر هوش مصنوعی ناگزیر باید از زیرساخت‌هایی مانند AWS، آژور یا خوشه‌های پردازشی خصوصی عبور کند؛ محیط‌هایی که ابزارهای شناسایی و پاسخ‌گویی امنیتی مانند EDR و XDR در آن‌ها به بلوغ رسیده‌اند. اما آنتروپیک نشان داد که تنها ۱۵ دستگاه ارزان‌قیمت تلویزیون هوشمند، بدون رعایت مناسب اصول بهداشت امنیت سایبری، می‌توانند با اتصال به یکدیگر استنتاج توزیع‌شده را اجرا کنند.»
کالین هوگ-اسپیرز، مدیر ارشد شرکت Black Duck
«یک کرم مبتنی بر اسکریپت فقط در محیط‌هایی اجرا می‌شود که سازندگانش آن را برای آن‌ها کامپایل کرده‌اند. اما در آزمایش ۱۲ اکتبر آنتروپیک، مدل Qwen3.5-9B شرکت علی‌بابا توانست سخت‌افزارهای ناآشنا را به‌طور مستقل پیکربندی کند و روی هشت مورد از ۹ نوع سخت‌افزار، سرور اجرای مدل راه‌اندازی کند. در این آزمایش، مسیر ورود عمداً باز گذاشته شده بود تا مشخص شود مدل پس از ورود به دستگاه چه اقداماتی انجام می‌دهد.
«آنتروپیک مدل‌هایی را آزمایش کرد که به آن‌ها دستور تکثیر داده شده بود، نه مدل‌هایی که خودشان تصمیم به تکثیر گرفته باشند. آزمایش گسترش کرم روی دستگاه‌های شبیه‌سازی‌شده انجام شد و مدل هدایت‌کننده کرم، یعنی GLM-5.2 متعلق به شرکت Zhipu AI، روی سروری جداگانه اجرا می‌شد؛ زیرا دستگاه‌های شبیه‌سازی‌شده برای میزبانی آن بیش از حد کوچک بودند. آنتروپیک می‌گوید هنوز یک کرم کامل در اختیار ندارد و پیش‌بینی این شرکت برای پایان سال ۲۰۲۶ نیز بر معیاری استوار است که خود گزارش آن را یک شاخص جانشین توصیف می‌کند.
«کرم هوش مصنوعی توصیف‌شده از سوی آنتروپیک در چهار مرحله گسترش می‌یابد: پیدا کردن دستگاه، نفوذ به آن، راه‌اندازی مدل روی دستگاه و تکرار همین فرایند از میزبان جدید. کرم میرای فهرستی از گذرواژه‌ها را با خود حمل می‌کرد، اما یک کرم هوش مصنوعی مدل را همراه خود دارد. بخش تازه و پیچیده فعالیت آن پس از نفوذ آغاز می‌شود؛ زمانی که باید موتور استنتاج، یعنی نرم‌افزار لازم برای اجرای مدل، را روی دستگاهی نصب کند که به‌تازگی وارد آن شده است.
«دستگاه‌های ارزان‌قیمت فقط ظرفیت میزبانی مدل‌های کوچک را دارند. به همین دلیل، سناریوی آنتروپیک بر مدل‌های دارای وزن‌های عمومی با حداکثر ۳۰ میلیارد پارامتر متمرکز است؛ مدل‌هایی که هر کسی می‌تواند فایل‌های آن‌ها را دریافت و اجرا کند. این مدل‌ها در حال حاضر می‌توانند مراحل جداگانه را انجام دهند، اما در اجرای کامل زنجیره عملیات شکست می‌خورند. یک دستگاه تلویزیونی با چهار گیگابایت حافظه نمی‌تواند به‌تنهایی مدل ۲۶ میلیارد پارامتری Gemma 4 گوگل را اجرا کند. در آزمایش آنتروپیک، ۱۵ دستگاه با تجمیع حافظه خود توانستند این مدل را با سرعت ۰٫۳۹ توکن در ثانیه اجرا کنند. هیچ کرمی میان این دستگاه‌ها گسترش نیافت و آزمایش صرفاً عملکرد استنتاج را اندازه‌گیری کرد.
«به گفته آنتروپیک، نخستین اهداف احتمالی چنین کرمی دستگاه‌های خانگی و تجهیزات کسب‌وکارهای کوچک خواهند بود؛ از جمله دستگاه‌های تلویزیونی مبتنی بر اندروید، دوربین‌های امنیتی و تجهیزات ویدئوکنفرانس که تراشه‌های جدید هوش مصنوعی آن‌ها توان پردازشی بیشتری در اختیار کرم قرار می‌دهد.
«یک کرم هوش مصنوعی عملیاتی می‌تواند دستگاه‌های مدیریت‌نشده یک شرکت را به میزبان‌های اجرای حمله تبدیل کند. بااین‌حال، راهکارهای دفاعی در برابر آن همان روش‌هایی هستند که برای مهار بات‌نت‌های مبتنی بر اسکریپت به کار می‌روند. برآورد آنتروپیک نشان می‌دهد توان پردازشی دو میلیون دستگاه تلویزیونی تصرف‌شده، در بهترین حالت، معادل حدود ۴۰ پردازنده گرافیکی Nvidia H100 مورد استفاده در مراکز داده است. بنابراین خطر اصلی نه قدرت پردازشی، بلکه توانایی ماندگاری تهدید است.
«بر اساس ارقام آنتروپیک، تعداد نسخه‌های یک کرم هوش مصنوعی روی سخت‌افزارهای ارزان‌قیمت می‌تواند ظرف چند روز دو برابر شود. حتی اگر دستگاهی پس از راه‌اندازی مجدد به وضعیت پاک بازگردد، تا زمانی که کسی درگاه مورد استفاده کرم برای نفوذ را نبندد، همچنان آسیب‌پذیر خواهد ماند. هزینه اصلی برای کسب‌وکارها مربوط به پاک‌سازی آلودگی است؛ یعنی جداسازی دستگاه‌ها و سپس تعمیر یا تعویض تجهیزاتی که در بسیاری از موارد حتی وصله امنیتی قابل نصبی برای آن‌ها وجود ندارد.
«بات‌های متعارف فایل‌های کوچکی هستند، اما کرمی که مدل هوش مصنوعی خود را حمل می‌کند، برای گسترش باید چندین گیگابایت داده جابه‌جا کند. همچنین اجرای یک مدل به‌صورت توزیع‌شده روی چند دستگاه مستلزم تبادل مداوم ترافیک میان آن‌هاست. خود آنتروپیک نیز انتقال داده‌های چندگیگابایتی و ترافیک پایدار میان دستگاه‌ها را از نشانه‌هایی معرفی کرده که باید زیر نظر گرفته شوند.
«مدیران امنیت باید کار را از دستگاه‌هایی آغاز کنند که امکان اجرای عامل امنیتی نقطه پایانی روی آن‌ها وجود ندارد؛ از نمایشگرهای اتاق کنفرانس گرفته تا دوربین‌ها. برای هر دستگاه باید فهرست مشخص و مکتوبی از ارتباطات مجاز تهیه شود و تمام ارتباطات دیگر مسدود شوند. راهنمای مؤسسه ملی استانداردها و فناوری آمریکا (NIST) درباره توصیف کاربرد موردنظر سازنده، با شماره SP 1800-15، روش انجام این کار را نشان می‌دهد. یک کرم هوش مصنوعی خود را با دستگاهی که به آن می‌رسد سازگار می‌کند، اما بخش‌بندی شبکه تعداد دستگاه‌هایی را که کرم می‌تواند به آن‌ها دسترسی پیدا کند محدود خواهد کرد.
«از تمام تجهیزات مبتنی بر اندروید فهرست تهیه کنید و سرویس‌های اشکال‌زدایی را که از طریق شبکه به درخواست‌ها پاسخ می‌دهند شناسایی کنید. نقطه شروع باید Android Debug Bridge روی درگاه TCP شماره ۵۵۵۵ باشد. همه این سرویس‌ها باید خارج از بازه‌های زمانی تعمیر و نگهداری غیرفعال شوند. کرم آزمایشی آنتروپیک، هوش مصنوعی جدید را با روش قدیمی KimWolf برای سوءاستفاده از درگاه باز اشکال‌زدایی اندروید ترکیب کرده بود.
«در مرحله بعد، سامانه‌های هشدار باید زمانی فعال شوند که دستگاهی فاقد عامل امنیتی نقطه پایانی، حجمی در مقیاس گیگابایت را از دستگاهی همتا یا میزبانی تأییدنشده دریافت می‌کند، یا ارتباط پرترافیک و پایداری با دستگاه مشابه دیگری برقرار می‌سازد. مسیر واکنش به چنین رخدادهایی باید از پیش تصویب شده باشد: ابتدا بررسی، سپس قرنطینه در صورتی که ترافیک توجیه کاری نداشته باشد، و در نهایت نصب مجدد تصویر سیستم یا تعویض دستگاه‌هایی که سازنده برای آن‌ها راه‌حل اصلاحی ارائه نکرده است.
«اگر دستگاه‌های فاقد عامل امنیتی نقطه پایانی را در شبکه‌ای تخت و بدون بخش‌بندی رها کنید، درحالی‌که درگاه اشکال‌زدایی آن‌ها همچنان به درخواست‌ها پاسخ می‌دهد، عملاً مسیر حرکت هر کرم خودگسترشی را از یک دستگاه به دستگاه بعدی فراهم کرده‌اید. اگر به‌جای پایش این ترافیک، فقط به دنبال کدهای نوشته‌شده با هوش مصنوعی بگردید، متوجه عبور وزن‌های مدل از شبکه خود نخواهید شد. وقتی دو نمایشگر اتاق کنفرانس چندین گیگابایت داده با یکدیگر مبادله می‌کنند، آنچه نیاز دارید یک کارشناس برای بررسی رخداد است، نه یک آشکارساز هوش مصنوعی.»
رام واراداراجان، مدیرعامل شرکت Acalvio
«از آنجا که می‌توان محدودیت‌های مربوط به امتناع از انجام درخواست‌های خطرناک را از مدل‌های دارای وزن‌های عمومی حذف کرد یا از ابتدا مدل‌هایی را انتخاب کرد که چنین محدودیت‌هایی ندارند، ایمنی نباید فقط به وزن‌های مدل یا لایه ارائه خدمات آن وابسته باشد. مدافعان امنیت سایبری به کنترل‌هایی در محیط عملیاتی مدل هوش مصنوعی نیاز دارند. فریب امنیتی آگاه از مدل نیز روشی است که از همان قابلیت کنشگری مستقل عامل‌ها، یعنی ویژگی‌ای که این تکثیرکننده‌ها را تا این اندازه خطرناک می‌کند، علیه خودشان بهره می‌گیرد.
«پژوهشگران آنتروپیک دریافته‌اند که برنامه‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند خود را از یک دستگاه ارزان‌قیمت متصل به اینترنت به دستگاه دیگری، مانند گیرنده‌های تلویزیون هوشمند و فرهای هوشمند، منتقل و تکثیر کنند و در همین فرایند یاد بگیرند چگونه روی سخت‌افزارهای ناآشنا کار کنند. چنین قابلیتی آن‌ها را به نوع جدیدی از کرم‌های رایانه‌ای تبدیل می‌کند که ابزارهای امنیتی سنتی، طراحی‌شده برای شناسایی تهدیدهای شناخته‌شده، آمادگی کافی برای شناسایی و مهارشان ندارند.
«راهکار دفاعی مؤثرتر این خواهد بود که شبکه‌ها به دستگاه‌های فریبنده و باورپذیری مجهز شوند که برای جذب مهاجمان مبتنی بر هوش مصنوعی طراحی شده‌اند. به این ترتیب، مدافعان می‌توانند رفتار این عوامل مهاجم را زیر نظر بگیرند و پیش از آنکه گسترش پیدا کنند، جلوی آن‌ها را بگیرند.»