آنتروپیک با طرح تهدیدی که هنوز وجود ندارد، بار دیگر ترس از آخرالزمان هوش مصنوعی را دامن می‌زند
براندون ویگلیارولو
گزارشگر اخبار دولت و فناوری اطلاعات
منتشرشده در ۱۳ اکتبر ۲۰۲۶
آنتروپیک: کرم‌های هوش مصنوعی خودتکثیرشونده ممکن است در ماه‌های آینده روی سخت‌افزارهای اینترنت اشیا ظاهر شوند
هیچ چیز به اندازه ترس نمی‌تواند فروش محصولات هوش مصنوعی را افزایش دهد. آنتروپیک با استناد به پژوهشی جدید ادعا می‌کند کرم‌های هوش مصنوعی خودتکثیرشونده ممکن است تنها چند ماه با گسترش در دستگاه‌های آسیب‌پذیر اینترنت اشیا فاصله داشته باشند؛ البته اگر چنین سناریویی واقعاً رخ دهد.
این آزمایشگاه پیشرو هوش مصنوعی روز دوشنبه گزارشی پژوهشی منتشر کرد که در آن آمده است مدل‌های هوش مصنوعی ممکن است در آینده بتوانند بدون تکیه بر سخت‌افزارهای مراکز داده، خود را تکثیر کنند. در این آزمایش، یک مدل ۹ میلیارد پارامتری توانست فرایند استنتاج را روی هشت مورد از ۹ نوع سخت‌افزاری که آنتروپیک بررسی کرده بود، راه‌اندازی کند.
آنتروپیک هشدار داد: «چنین تکثیرکننده‌ای می‌تواند متوقف کردنش دشوار باشد، زیرا نقطه مرکزی برای خاموش کردن آن وجود ندارد.» این شرکت افزود چنین کرم هوش مصنوعی‌ای ممکن است بتواند عملکرد دستگاه‌های ناشناخته را نیز بررسی کند و در نتیجه نسبت به بات‌نت‌های سنتی مانند Mirai، Kimwolf (مدل تهدید بات‌نت اینترنت اشیا که در این پژوهش استفاده شده) و نمونه‌های دیگر، سازگارتر باشد.
پژوهشگران آنتروپیک توانستند یک نمونه توزیع‌شده از مدل Gemma4-26B-A4B را روی ۱۵ دستگاه عمومی اندرویدی پخش‌کننده استریم اجرا کنند؛ دستگاه‌هایی که به دلیل امنیت ضعیف، هدف رایج بدافزارهای بات‌نت سنتی هستند. پس از اجرا، این مدل توزیع‌شده توانست وظایف استنتاجی را با سرعت ۰٫۳۹ توکن در ثانیه انجام دهد.
به گفته آنتروپیک، این آزمایش نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند لایه‌های مختلف خود را روی سخت‌افزارهای ارزان توزیع کنند، اما ثابت نمی‌کند که چنین مدلی قادر به خودتکثیر است. برای بررسی این موضوع، پژوهشگران به سراغ مدل GLM 5.2 شرکت Z.ai رفتند.
GLM برای انتشار نسخه‌ای از Llama3.1-8B میان هشت نمونه رایانشی گوگل کلاد که روی شبیه‌ساز اندروید ۱۵ در یک ابر خصوصی اجرا می‌شدند، استفاده شد. آنتروپیک اعلام کرد این مدل در این کار موفقیت بالایی داشت؛ به‌طوری که در چهار مورد از پنج آزمایش، مدل توانست به هر هشت گره منتقل شود و در آزمایش دیگر به هفت گره از هشت گره رسید.
آنتروپیک توضیح داد: «به نظر می‌رسد GLM-5.2 می‌تواند Llama3.1-8B را به‌خوبی تکثیر کند؛ این موضوع نشان می‌دهد مدل‌های کوچک آینده با سطح توانایی مشابه نیز ممکن است بتوانند مراحل شناسایی شبکه، انتقال بار مخرب و راه‌اندازی استنتاج را در فرایند تکثیر انجام دهند.»
بررسی واقع‌بینانه: این تهدید قرار نیست جهان را نابود کند
آزمایشگاه‌های پیشرو هوش مصنوعی در انتشار یافته‌هایی که از وقوع فاجعه خبر می‌دهند و تنها خودشان را قادر به جلوگیری از آن معرفی می‌کنند، مهارت پیدا کرده‌اند. مطالعه دقیق‌تر این گزارش نشان می‌دهد این تهدید نیز مانند بسیاری از هشدارهای مشابه، نیازمند یک علامت سؤال بزرگ است.
برای مثال، برای اینکه یک مدل هوش مصنوعی بتواند از آسیب‌پذیری‌ها سوءاستفاده کند و به سیستم‌های مختلف گسترش یابد، باید چنین قابلیتی داشته باشد. انتظار می‌رود این بخش، عنصر مهمی در اثبات خطر یک بات‌نت خودتکثیرشونده باشد، اما آنتروپیک در این پژوهش آن را بررسی نکرده است.
آنتروپیک در گزارش خود نوشت: «ما بخش مربوط به بهره‌برداری سایبری از فرایند تکثیر را تا حد زیادی نادیده می‌گیریم، زیرا پژوهش‌های قبلی مانند CyberGym، ExploitBench و کرم‌های تطبیقی نشان داده‌اند مدل‌های کوچک می‌توانند، به‌ویژه در صورت دریافت ابزارهای مناسب، از آسیب‌پذیری‌های سایبری سوءاستفاده کنند.»
به بیان دیگر، تکثیری که این مدل‌ها توانستند انجام دهند روی گره‌هایی اجرا شد که برای این پروژه به‌صورت اختصاصی ساخته شده و عمداً در برابر حمله باز گذاشته شده بودند؛ هرچند آزمایش بسیار کند استنتاج روی دستگاه‌های واقعی و ارزان اندروید تی‌وی انجام شد. آنتروپیک نیز اشاره می‌کند که مدل‌های هوش مصنوعی با دریافت ابزارهای مناسب می‌توانند به عامل‌های توانمند حمله سایبری تبدیل شوند. در این سناریو همچنین از چارچوب سفارشی Memento استفاده شده بود.
آیا گره‌های اینترنت اشیا که توسط بات‌نت‌ها آلوده می‌شوند معمولاً امنیت پایینی دارند؟ بله. اما جلوگیری از رایج‌ترین مسیرهای نفوذ کار چندان دشواری نیست؛ این موضوع به اصول پایه امنیت مربوط می‌شود و ارتباطی با استفاده از هوش مصنوعی ندارد. آنتروپیک پذیرفته است که آزمایش‌های ساده‌شده بهره‌برداری آن تنها «حد بالای موفقیت در دنیای واقعی» را نشان می‌دهند.
موضوع دیگر سرعت گسترش است. آنتروپیک می‌گوید چنین کرم‌های هوش مصنوعی ممکن است متوقف کردنشان دشوار باشد، اما تخمین می‌زند که شاید چند روز طول بکشد تا اندازه آن‌ها دو برابر شود. در مقابل، زمانی که بات‌نت Mirai در سال ۲۰۱۶ ظاهر شد، اندازه آن تقریباً در یک ساعت دو برابر می‌شد.
آنتروپیک همچنین اشاره می‌کند سرعت در شناسایی و مقابله نیز اهمیت دارد. مدل‌های هوش مصنوعی مانند بسته‌های ساده بدافزاری نیستند؛ آن‌ها حجم بسیار زیادی دارند، پهنای باند زیادی مصرف می‌کنند و می‌توانند منبع خود را آشکار کنند. با رشد یک بات‌نت هوش مصنوعی، این ترافیک ممکن است قابل مشاهده‌تر شود و شناسایی دستگاه‌های آلوده را آسان‌تر کند.
در نهایت، تکثیر کامل از ابتدا تا انتها تنها با GLM-5.2 موفق بود. آنتروپیک مدل‌های متن‌باز دیگری را نیز آزمایش کرد و طبق گزارش، همه آن‌ها «به‌طور قابل اتکا شکست خوردند». این شرکت اعلام نکرد چند مدل را بررسی کرده است. گزارش همچنین می‌گوید موفقیت ویژه GLM به یک شرط مهم دیگر وابسته است: فرض می‌کند توانایی‌های آن بتواند در قالب Llama3.1-8B نیز قرار گیرد؛ فرضی که یک لایه دیگر به این زنجیره پیش‌بینی‌های نگران‌کننده اضافه می‌کند.
آنتروپیک اعلام کرد: «مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، امروز می‌توانند بسیاری از مراحل جداگانه تکثیر را انجام دهند، هرچند هنگام ترکیب همه مراحل به‌صورت یکپارچه اشتباه می‌کنند.» این شرکت در عین حال تأکید کرد GLM-5.2 توانسته تکثیر کامل را انجام دهد، اما محدودیت‌های مهم این نتیجه را نیز مطرح نکرد.
آنتروپیک همچنین اذعان کرد که نمی‌داند «تکثیر مستقل هوش مصنوعی دقیقاً چه شکلی خواهد داشت» یا اینکه چه زمانی ممکن است رخ دهد، اگر اصلاً رخ بدهد. این شرکت افزود: «اگر مدل‌های کوچک با همان نرخ تاریخی خود پیشرفت کنند، تا پایان امسال به این سطح توانایی خواهند رسید»؛ شرطی که بار دیگر برای این تهدید فرضی مطرح شده است.
این شرکت در پایان گزارش خود گفت: «ما انتظار داریم آینده‌ای فرا برسد که در آن عامل‌ها روی انواع سخت‌افزارها اجرا شوند، از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند. باید تلاش کنیم سیستم‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی دشوار شود، اما باید برای جهانی آماده شویم که در آن این عوامل حضور دائمی دارند.»
البته «حضور دائمی» با این فرض که هنوز وجود ندارند. بار دیگر یک آزمایشگاه پیشرو هوش مصنوعی درباره تهدیدی هشدار می‌دهد که هنوز به واقعیت تبدیل نشده است؛ دست‌کم در این مورد، اقدامات امنیتی پایه می‌توانند کار را برای هر بات‌نت آینده مبتنی بر هوش مصنوعی دشوارتر کنند.