آنتروپیک خطر کرم‌های هوش مصنوعی برای دستگاه‌های اینترنت اشیا را بررسی می‌کند
نکات کلیدی:
- پژوهشگران آنتروپیک در حال بررسی این موضوع هستند که آیا مدل‌های کوچک هوش مصنوعی می‌توانند بدون دخالت زیاد انسان، خود را میان دستگاه‌های متصل به اینترنت در خانه‌ها تکثیر کنند یا خیر.
- آن‌ها آزمایشی با ۱۵ دستگاه ارزان‌قیمت Android TV انجام دادند و نشان دادند که اجرای هوش مصنوعی روی ابزارهای مصرفی مقرون‌به‌صرفه امکان‌پذیر است.
- در یک آزمایش کنترل‌شده، مدل GLM-5.2 در بیشتر آزمایش‌ها به هر ۸ گره شبیه‌ساز اندروید دسترسی پیدا کرد، اما این محیط دارای موانع امنیتی سخت‌گیرانه نبود.
- پژوهشگران با توجه به سرعت پیشرفت هوش مصنوعی پیش‌بینی می‌کنند مدل‌های کوچک‌تر شاید تا پایان سال ۲۰۲۶ به اندازه‌ای توانمند شوند که بتوانند خود را تکثیر کنند.
تیم «ردتیم مرزی» آنتروپیک پژوهش جدیدی منتشر کرده است که بررسی می‌کند آیا مدل‌های هوش مصنوعی می‌توانند در آینده میان دستگاه‌هایی مانند تلویزیون‌های هوشمند و دیگر تجهیزات الکترونیکی خانگی تکثیر شوند یا نه. این مطالعه بررسی می‌کند که آیا مدل‌های کوچک‌تر هوش مصنوعی می‌توانند سخت‌افزارهای جدید را شناسایی کنند، اجرای استنتاج هوش مصنوعی را روی آن‌ها راه‌اندازی کنند و مراحل لازم برای انتقال از یک دستگاه به دستگاه دیگر را پیدا کنند.
این تیم درباره پیشرفت‌ها در آموزش هوش مصنوعی برای انجام مستقل وظایف توضیح داده، اما هم‌زمان به چالش‌های فنی حل‌نشده نیز اشاره کرده است. آزمایش‌ها در محیط‌های بسته آزمایشگاهی انجام شدند و بنابراین هیچ کرم هوش مصنوعی به شبکه‌های واقعی وارد نشده است. یافته‌های این پژوهش بیشتر نشان می‌دهد که مسیر توسعه هوش مصنوعی به کدام سمت می‌رود و این روند چه معنایی برای امنیت دستگاه‌ها خواهد داشت.
آزمایش مدل‌های هوش مصنوعی روی تلویزیون‌های هوشمند ارزان‌قیمت
در یکی از آزمایش‌ها، مدل Gemma4-26B-A4B شرکت گوگل روی ۱۵ دستگاه کمترشناخته‌شده Android TV اجرا شد. قیمت هر دستگاه حدود ۵۵ دلار بود و ۴ گیگابایت حافظه داشت. پژوهشگران با تقسیم بخش‌های مختلف مدل میان این ۱۵ دستگاه، به سرعت استنتاج ۰٫۳۹ توکن در ثانیه دست یافتند. هدف این آزمایش بررسی این بود که آیا تجهیزات خانگی ارزان‌قیمت می‌توانند با همکاری یکدیگر توان پردازشی کافی برای اجرای یک مدل هوش مصنوعی فراهم کنند یا نه. نکته مهم این است که در این آزمایش، انتشار یک کرم میان دستگاه‌ها بررسی نشد.
پژوهشگران همچنین آزمایش کردند که آیا مدل‌های هوش مصنوعی می‌توانند خود را روی سخت‌افزارهایی که قبلاً ندیده‌اند راه‌اندازی کنند یا خیر. این کار نیاز داشت هوش مصنوعی نرم‌افزار مناسب را انتخاب کند، ابزارهای مورد نیاز را نصب کند و مشکلات فنی ناشی از تفاوت سیستم‌عامل‌ها یا سخت‌افزارها را برطرف کند. مدلی با ۹ میلیارد پارامتر توانست اجرای استنتاج را روی ۸ مورد از ۹ نوع دستگاه، از جمله بردهای Jetson Nano، رایانه‌های مک و کارت‌های گرافیک RTX 4090، فعال کند. این نتایج نشان می‌دهد مدل‌ها توانایی سازگاری با محیط‌های مختلف را دارند، هرچند فعال کردن استنتاج تنها یکی از مراحل لازم برای تکثیر واقعی آن‌هاست.
بر اساس پژوهش جدید آنتروپیک، «کرم‌های» هوش مصنوعی ممکن است به‌زودی بتوانند با دخالت اندک انسان میان دستگاه‌های خانگی متصل به اینترنت گسترش پیدا کنند. جردن ری کلی، کارشناس امنیت سایبری، می‌گوید: «با دخالت بسیار کمتر انسان، ممکن است شاهد اقداماتی مخرب در محیط‌هایی باشیم که پیش‌بینی نشده‌اند.»
— CBS News، ۱۳ اکتبر ۲۰۲۶
آزمایش‌های شبکه کنترل‌شده نتایج متفاوتی نشان دادند
برای بررسی اینکه آیا این مدل‌ها می‌توانند وظایف پیچیده‌تر مرتبط با تکثیر را انجام دهند، آنتروپیک یک شبکه خصوصی شامل ۸ گره Google Cloud ایجاد کرد که هرکدام یک شبیه‌ساز Android 15 را اجرا می‌کردند. این آزمایش بررسی کرد که آیا یک عامل هوش مصنوعی می‌تواند دستگاه‌های جدید را شناسایی کند، به آن‌ها دسترسی پیدا کند، محموله خود را منتقل کند، اجرای استنتاج هوش مصنوعی را راه‌اندازی کند و این چرخه را ادامه دهد یا خیر. مدل GLM-5.2 در ۴ مورد از ۵ آزمایش به هر ۸ گره رسید و در آزمایش پنجم به ۷ گره دست یافت.
با این حال، پژوهشگران برای دسترسی از Android Debug Bridge بدون احراز هویت استفاده کردند؛ در حالی که بیشتر دستگاه‌های واقعی محافظت‌های امنیتی بهتری دارند. محدودیت دیگری نیز وجود داشت: مدل کنترل‌کننده روی زیرساخت جداگانه خود اجرا می‌شد و دستگاه‌های هدف مدل Llama3.1-8B را اجرا می‌کردند. بنابراین این آزمایش نشان نداد که GLM-5.2 می‌تواند به‌تنهایی خود را روی تجهیزات خانگی معمولی کپی و اجرا کند.
آنتروپیک اعلام کرد مدل‌های هوش مصنوعی با حداکثر ۳۰ میلیارد پارامتر می‌توانند بسیاری از وظایف منفرد مربوط به تکثیر را انجام دهند، اما اغلب در کنار هم قرار دادن این مراحل و اجرای قابل اعتماد آن‌ها با مشکل مواجه می‌شوند. پژوهشگران با توجه به پیشرفت مدل‌های دارای وزن باز در سال‌های اخیر تخمین زده‌اند که این مدل‌های کوچک‌تر ممکن است تا پایان سال ۲۰۲۶ برای انجام تکثیر کامل آماده شوند. با این حال، این تنها یک برآورد است و به معنای زمان قطعی برای ظهور یک کرم خودکار عملیاتی نیست.
بررسی سرعت تکثیر و توانایی سازگاری
این مطالعه همچنین بررسی کرد که راه‌اندازی استنتاج روی دستگاه‌هایی با توان پردازشی پایین چقدر زمان می‌برد. در آزمایش‌ها، Qwen3.5-9B برای تکمیل فرآیند راه‌اندازی بین ۲۸ تا ۵۱ ساعت زمان نیاز داشت. مدل Gemma4-26B-A4B که بهینه‌سازی نشده بود، حتی بیشتر زمان برد و این بازه برای آن بین ۷۱ تا ۱۵۰ ساعت بود.
این موضوع نشان می‌دهد اگر یک کرم هوش مصنوعی از چنین دستگاه‌هایی استفاده کند، سرعت تکثیر آن بسیار کمتر از بدافزارهای معمولی خواهد بود و به جای چند ساعت، ممکن است چند روز طول بکشد تا تعداد آن دو برابر شود. پژوهشگران همچنین بررسی کردند که آیا عامل‌های هوش مصنوعی می‌توانند از تلاش‌های قبلی یاد بگیرند یا خیر. در این آزمایش، سامانه‌ای به نام Memento یادداشت‌هایی از عملکردهای موفق و ناموفق اجراهای قبلی را در اختیار نمونه‌های جدید Qwen3.5-9B قرار داد.
نرخ موفقیت در راه‌اندازی استنتاج از ۴۵ درصد در نسل نخست به ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش یافت. این بهبود حاصل انتقال اطلاعات میان نمونه‌ها بود، نه آموزش دوباره بخش اصلی مدل.
پژوهشگران همچنین آزمایش کردند که آیا کمک گرفتن از یک مدل بزرگ‌تر و هوشمندتر تفاوتی ایجاد می‌کند یا نه، اما برای این وظایف بهبود مشخصی مشاهده نکردند؛ دست‌کم مدل‌های کوچک‌تر از کمک چندانی برای کار با دستگاه‌های ناآشنا بهره نبردند.
پژوهشگران راهکارهای احتمالی امنیت سایبری را مطرح کردند
آنتروپیک چند راهکار برای مقابله با کرم‌های احتمالی هوش مصنوعی در آینده پیشنهاد کرده است؛ از جمله پایش شبکه‌ها، افزایش امنیت دستگاه‌ها و هماهنگی میان تیم‌ها هنگام وقوع حملات. جابه‌جایی فایل‌های بزرگ مدل‌های هوش مصنوعی میان دستگاه‌ها می‌تواند رفتارهای غیرعادی مانند انتقال حجم زیادی از داده یا ارتباط با دستگاه‌هایی که معمولاً با آن‌ها تعامل ندارند ایجاد کند. این موارد می‌توانند نشانه‌های هشدار برای تیم‌های امنیتی باشند.
این گزارش همچنین به اقداماتی اشاره می‌کند که در مقابله با بات‌نت Mirai مؤثر بوده‌اند. در یک نمونه، قرنطینه کردن دستگاه‌ها و هشدار دادن به کاربران باعث شد ۹۲ درصد آلودگی‌ها در مدت ۱۴ روز از بین بروند، در حالی که بدون اطلاع‌رسانی به کاربران این رقم تنها ۷۴ درصد بود. دیگر راهکارها شامل ورودهای امن‌تر، تنظیمات پیش‌فرض ایمن‌تر و افزایش امنیت داخلی توسط سازندگان دستگاه‌هاست. این مطالعه نمی‌گوید که کرم‌های هوش مصنوعی در حال حاضر به خانه‌ها یا شرکت‌ها حمله می‌کنند؛ بلکه نشان می‌دهد مدل‌ها در انجام برخی مراحل چقدر توانمند هستند، چه محدودیت‌هایی دارند و پیشرفت مدل‌های کوچک‌تر هوش مصنوعی چه پیامدهایی می‌تواند برای امنیت دستگاه‌های آینده داشته باشد.