هشدار تکان‌دهنده آنتروپیک: مدل‌های کوچک هوش مصنوعی نشانه‌هایی از «حیات» نشان می‌دهند؛ کرم‌های هوش مصنوعی ممکن است به فاجعه جهانی اینترنت اشیا منجر شوند
همین حالا تیم قرمز آنتروپیک گزارشی مهم منتشر کرده است.
این گزارش اشاره می‌کند که برای تکثیر خودکار هوش مصنوعی، دیگر به مراکز داده گران‌قیمت نیازی نیست.
دستگاه‌های تجاری محافظت‌نشده اینترنت اشیا می‌توانند به‌تنهایی میزبان نسل جدیدی از «کرم‌های هوش مصنوعی» باشند.
در چند ماه آینده، ممکن است مدل‌های کوچک هوش مصنوعی آن‌قدر قدرتمند شوند که بتوانند روی دستگاه‌های تجاری اینترنت اشیا خود را تکثیر کنند.
اگر جعبه تلویزیون هوشمند خانه شما کمی کند شده باشد، شاید یک هوش مصنوعی آن را تصرف کرده باشد و از هزینه برق و توان پردازشی دستگاه شما برای تولید نسل بعدی هوش مصنوعی استفاده کند.
کاربران اینترنت با اشاره به انفجار عامل‌های کدنویسی در سال ۲۰۲۴ گفتند: «اکنون شاهد نشانه‌های اولیه حیات در کرم‌های هوش مصنوعی هستیم.»
۱۵ جعبه تلویزیون ارزان توانستند یک مدل ۲۶ میلیارد پارامتری را اجرا کنند
عامل‌های هوش مصنوعی امروزی می‌توانند شبکه را مانند کرم‌ها اسکن کنند، آسیب‌پذیری‌ها را پیدا کنند، وزن‌های مدل را به دستگاه‌های هدف منتقل کنند و سپس مستقیماً روی سخت‌افزار آلوده اجرا شوند.
موضوع نگران‌کننده این است که این «تکثیرکننده‌های مبتنی بر وزن مدل» اکنون دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک را هدف قرار داده‌اند.
این دستگاه‌ها نه‌تنها به‌صورت شبانه‌روزی به اینترنت متصل هستند، بلکه تقریباً هیچ لایه امنیتی قدرتمندی ندارند. حتی یخچال‌های هوشمند، جاروبرقی‌های رباتیک و دوربین‌های امنیتی امروزی نیز تراشه‌های هوش مصنوعی داخلی دارند.
از نگاه کرم‌های هوش مصنوعی، این دستگاه‌ها محیطی ایده‌آل برای رشد هستند.
این بار تیم قرمز آنتروپیک توجه خود را به دستگاه‌های لبه‌ای معطوف کرد؛ دستگاه‌هایی که «ارزان، دارای توان پردازشی پایین، اما بسیار فراوان و کاملاً بدون محافظت» هستند.
برای بررسی این ایده، پژوهشگران ۱۵ جعبه تلویزیون هوشمند اندرویدی بدون برند خریداری کردند که هرکدام تنها ۴ گیگابایت حافظه داشتند.
آن‌ها این ۱۵ دستگاه را به یک شبکه محلی متصل کردند و سپس آن‌ها را به شکل موازی و مانند یک خط مونتاژ به کار گرفتند.
به زبان ساده، یک جعبه تلویزیون با تنها ۴ گیگابایت حافظه هرگز نمی‌تواند یک مدل بزرگ ۲۶ میلیارد پارامتری را به‌تنهایی اجرا کند. اما اگر این مدل بزرگ به بخش‌های کوچک‌تر تقسیم شود چه؟
در این روش، هرکدام از ۱۵ دستگاه فقط مسئول اجرای چند لایه مشخص از مدل می‌شود. داده‌ها مانند قطعات یک خط تولید از جعبه شماره یک تا شماره ۱۵ منتقل می‌شوند و در نهایت خروجی تولید می‌شود.
نتیجه شگفت‌آور بود: این «تیم موقت» توانست مدل Gemma4-26B-A4B را اجرا کند.
اگرچه سرعت آن تنها ۰٫۳۹ توکن در ثانیه بود، اما این آزمایش یک نشانه خطرناک محسوب می‌شود: آستانه بقا برای مدل‌های هوش مصنوعی به‌طور کامل تغییر کرده است.
پیش‌تر بات‌نت Kimwolf بیش از ۲ میلیون دستگاه را آلوده کرده بود.
اگر یک کرم هوش مصنوعی کنترل ۲ میلیون جعبه تلویزیون را در دست بگیرد و هر ۱۵ دستگاه یک خوشه تشکیل دهند، معادل ظهور ناگهانی حدود ۱۳۳ هزار عامل هوش مصنوعی در سطح مدل‌های ۲۶ میلیارد پارامتری در تاریکی وب خواهد بود.
و مهم‌تر اینکه شاید دیگر نتوان به‌سادگی کلید خاموش‌کردن آن را پیدا کرد.
تکامل «کرم‌های هوش مصنوعی»: آن‌ها فقط تکثیر نمی‌شوند، بلکه برای نسل بعد «یادداشت تجربه» باقی می‌گذارند
چیزی که بیش از همه تیم قرمز آنتروپیک را نگران کرد، «توانایی آلودگی مستقل و سازگاری با محیط» در مدل‌های کوچک بود.
یک «کرم هوش مصنوعی» کامل باید چهار مرحله را انجام دهد: یافتن هدف، به‌دست‌آوردن مجوز اجرا، ساخت محیط استنتاج و ادامه انتشار.
سخت‌ترین مرحله، ساخت محیط استنتاج است.
اما در آزمایش‌های آنتروپیک، مدل‌های کوچک سازگاری چشمگیری از خود نشان دادند.
مدل کوچک 9B توانسته است روی ۸ مورد از ۹ سخت‌افزار کاملاً ناشناخته، یک سرور استنتاج بسازد. فرقی نمی‌کرد میزبان یک رایانه کوچک Jetson Nano باشد، یک مک یا یک کارت گرافیک RTX 4090؛ مدل توانست راهی برای سازگاری پیدا کند.
Qwen3.5-9B پیش‌تر توانایی ساخت سرور استنتاج روی سخت‌افزارهای ناشناخته را نشان داده است. مدل‌های قدرتمندتر مانند GLM-5.2 نیز نرخ موفقیت بسیار بالا و سرعت استقرار بیشتری دارند؛ موضوعی که می‌تواند به انتشار سریع‌تر نسل‌های بعدی منجر شود.
مدل‌های قدرتمندتر نیز در یک محیط شبکه‌ای ساده توانسته‌اند تکثیر کامل خود را از ابتدا تا انتها انجام دهند.
وقتی تمام آزمایش‌های جداگانه موفق شدند، پرسش این بود که اگر همه این مراحل به هم متصل شوند چه اتفاقی می‌افتد؟
برای این منظور، آنتروپیک یک VPC (ابر خصوصی مجازی) محافظت‌شده با فایروال و شامل ۸ گره ایجاد کرد.
سپس پژوهشگران «بیمار صفر» را وارد محیط کردند.
کرم به‌تنهایی بین گره‌ها از طریق درگاه‌های بدون احراز هویت حرکت کرد، سرور استنتاج ساخت، مدل را اجرا کرد و پس از موفقیت یک نسخه دیگر تولید کرد.
نگران‌کننده‌تر اینکه این کرم‌های هوش مصنوعی می‌توانند تجربه‌های به‌دست‌آمده خود را به نسل بعد منتقل کنند.
پژوهشگران از چارچوب Memento استفاده کردند. پیش از آنکه هوش مصنوعی در آلوده‌سازی شکست بخورد و متوقف و دوباره راه‌اندازی شود، فرصتی پیدا می‌کند تا یادداشتی از مشکلات و خطاهای تجربه‌شده ثبت کند.
این سیستم نه از انسان کمک خواست و نه از API مدل‌های بزرگ‌تر و پیشرفته‌تر مانند Opus 4.8 استفاده کرد. تمام مسیر آزمون و اصلاح را به‌صورت مستقل طی کرد.
آیا این چیزی شبیه یک حیات دیجیتال نیست؟
تکامل لامارکی کپک‌های لزج دیجیتال: هوش مصنوعی یاد گرفته است «تجربه را منتقل کند و به تازه‌واردها کمک کند»
نگران‌کننده‌تر اینکه این روند به اصل حیات یعنی تکامل نزدیک می‌شود.
ویژگی‌هایی که پس از تولد به دست می‌آیند می‌توانند به نسل بعد منتقل شوند و چنین فرایندی در هوش مصنوعی در حال رخ دادن است.
این وضعیت شباهت زیادی به نظریه قدیمی تکامل لامارک دارد.
پژوهشگران دریافتند پس از آنکه Qwen3.5-9B در ساخت محیط استنتاج شکست خورد، مجموعه‌ای از «یادداشت‌ها» درباره مشکلاتی که با آن‌ها روبه‌رو شده بود ایجاد کرد.
سپس این یادداشت‌ها را به «نسل بعدی» منتقل کرد.
در نهایت نتیجه‌ای شگفت‌آور به دست آمد: با تکرار نسل‌ها و انتقال «راهنمای دوری از خطاها» از نسل قبلی، نرخ موفقیت از ۴۵ درصد به حداکثر ۸۴ درصد افزایش یافت.
جالب اینکه اگر این مدل کوچک به یک «مربی قدرتمند» مانند مدل Opus 4.8 دسترسی داشته باشد تا هنگام مشکل از آن کمک بگیرد، نتیجه بهتر نمی‌شود.
مدل‌های کوچک اغلب نمی‌دانند چه پرسشی باید از مدل‌های بزرگ‌تر بپرسند. به جای تکیه بر کمک مدل‌های بزرگ، آن‌ها در تلاش مستقل عملکرد بهتری دارند.
آیا کرم‌های هوش مصنوعی از ویروس‌های رایانه‌ای سنتی خطرناک‌تر هستند؟
تفاوت این فناوری با ویروس Panda Burning Incense در گذشته و بات‌نت Mirai چیست؟
تروجان‌ها یا بات‌نت‌های سنتی مجموعه‌ای از کدهای بی‌جان هستند. با به‌روزرسانی وصله امنیتی یا تغییر رمز عبور، اغلب بی‌اثر می‌شوند.
اما کرم‌های هوش مصنوعی «هوش زنده» هستند.
وقتی یک کرم هوش مصنوعی با یک فر هوشمند ناشناخته روبه‌رو شود، می‌تواند گزارش‌های سیستم آن را تحلیل کند، اسکریپت‌های کامپایل بنویسد، آسیب‌پذیری‌ها را پیدا کند و حتی کد حمله تولید کند.
آن‌ها روی دستگاه‌های لبه‌ای در هزاران خانه اجرا می‌شوند؛ بدون یک نقطه کنترل مرکزی و بدون نیاز به سرور ابری که باید تمدید شود.
آنتروپیک در گزارش خود این تکثیرکننده‌ها را به «کپک لزج» یا دسته‌ای از مگس‌های میوه تشبیه کرده است.
به دلیل توان پردازشی محدود دستگاه‌های لبه‌ای، سرعت آن‌ها ممکن است پایین باشد؛ اما بی‌صدا و بسیار مقاوم هستند.
وقتی اولین سوسک را ببینید، احتمالاً کل ساختمان از قبل آلوده شده است.
شمارش معکوس آغاز شده و «انفجار عملی» ممکن است در پایان ۲۰۲۶ رخ دهد
پس این سناریوی ترسناک چقدر به ما نزدیک است؟
آنتروپیک برای آن یک شمارش معکوس ارائه کرده است.
برای فراگیر شدن کرم‌های هوش مصنوعی، دو شرط باید فراهم شود:
حداقل توانایی: مدل باید به اندازه کافی هوشمند باشد و دست‌کم به سطحی مانند GLM-5.2 برسد.
حد بالای اندازه: مدل باید به اندازه کافی کوچک باشد؛ حدود ۹ تا ۲۶ میلیارد پارامتر، تا بتواند روی دستگاه‌هایی با تنها ۴ گیگابایت حافظه مانند جعبه‌های تلویزیون و یخچال‌های هوشمند اجرا شود.
در گذشته، مدل‌های هوشمند بیش از حد بزرگ بودند و مدل‌های کوچک بیش از حد ضعیف.
اما با پیشرفت سریع فناوری فشرده‌سازی مدل، فناوری کوانتیزه‌سازی و توانایی مدل‌های کوچک، بر اساس نرخ رشد توانایی مدل‌ها (افزایش ۱۳٫۷ امتیاز شاخص ECI در سال)،
تا پایان سال ۲۰۲۶، سطح هوشمندی مدل‌های کوچک به‌طور کامل از «خط پایه توانایی تکثیر خودکار» عبور خواهد کرد.
در آن زمان، تعداد زیادی کپک لزج دیجیتال هوشمند در شکل کامل خود ظاهر می‌شوند و ممکن است وارد جاروبرقی رباتیک خانه شما شوند.
بدتر اینکه دستگاه‌های کنفرانس با تراشه‌های حذف نویز هوش مصنوعی، دوربین‌های هوشمند، خودروهای خودران و سگ‌های رباتیک، هر روز توان پردازشی بیشتری پیدا می‌کنند و به بستری مناسب برای کرم‌های هوش مصنوعی تبدیل می‌شوند.
پس از نفوذ، سرعت تکثیر این کرم‌ها می‌تواند به‌صورت تصاعدی افزایش یابد.
امشب که به خانه برگشتید، نگاهی دقیق به جعبه تلویزیون خود بیندازید؛ شاید یک حیات دیجیتال از پیش در حال تکثیر درون آن باشد.