آنتروپیک هشدار داد هوش مصنوعی به توانایی خودتکثیری روی دستگاه‌های اینترنت اشیا نزدیک می‌شود
یک سامانه هوش مصنوعی می‌تواند به‌طور مستقل دستگاه‌های متصل به اینترنت را پیدا کند، نسخه‌ای از خود را روی آن‌ها مستقر کند و سپس بدون دخالت انسان به فعالیت روی دستگاه جدید ادامه دهد. این سناریو که زمانی تهدیدی مربوط به آینده تلقی می‌شد، پس از تازه‌ترین آزمایش‌های آنتروپیک به‌تدریج به واقعیت نزدیک‌تر شده است.
در مطالعه‌ای که ۱۲ اکتبر ۲۰۲۶ منتشر شد، توسعه‌دهنده چت‌بات Claude اعلام کرد مدل‌های کوچک هوش مصنوعی هم‌اکنون قادرند بسیاری از مراحل موردنیاز برای خودتکثیری روی دستگاه‌های اینترنت اشیا (IoT) مانند تلویزیون‌های هوشمند، لوازم خانگی متصل به شبکه و سامانه‌های الکترونیکی رایج را انجام دهند.
نکته مهم این است که چنین قابلیتی الزاماً به مراکز داده عظیم با سخت‌افزارهای گران‌قیمت نیاز ندارد. طبق اعلام تیم پژوهش، اگر توانایی‌های هوش مصنوعی با سرعت فعلی بهبود پیدا کند، مدل‌های خودتکثیرشونده ممکن است در آینده‌ای نزدیک ظهور کنند.
با این حال، آنتروپیک تأکید می‌کند که این موضوع هنوز هشداری بر پایه نتایج آزمایشگاهی و پیش‌بینی‌های فناوری است و به معنای آن نیست که هوش مصنوعی توانسته به‌طور کامل خود را تکثیر کند و آزادانه در اینترنت گسترش یابد.
هوش مصنوعی کوچک تاکنون بسیاری از مراحل خودتکثیری را انجام داده است
در این مطالعه، آنتروپیک امکان استقرار و حفظ فعالیت یک سامانه هوش مصنوعی روی چندین دستگاه را بدون نیاز به کنترل مستقیم انسان بررسی کرد.
در حالت نظری، این فرایند شامل یافتن یک دستگاه قابل دسترسی، شناسایی امکان سوءاستفاده از آن، انتقال نرم‌افزار و داده‌های لازم به دستگاه هدف، آماده‌سازی محیط برای اجرای مدل هوش مصنوعی و سپس تکرار همین فرایند روی دستگاه‌های دیگر است.
برخلاف یک برنامه معمولی که توسط انسان نصب و اجرا می‌شود، سامانه هوش مصنوعی در این سناریو می‌تواند برای سازگاری با محیط‌های سخت‌افزاری و نرم‌افزاری مختلف، خودش تصمیم‌گیری کند.
نتایج آزمایش‌ها نشان داد مدل‌هایی با حداکثر ۳۰ میلیارد پارامتر توانسته‌اند بسیاری از وظایف جداگانه در این زنجیره عملیاتی را انجام دهند.
در یک مورد، مدلی با حدود ۹ میلیارد پارامتر توانست در ۸ مورد از ۹ نوع سخت‌افزار آزمایش‌شده، محیط اجرای هوش مصنوعی را با موفقیت ایجاد کند. این نتیجه نشان می‌دهد مدل‌های نسبتاً کوچک نیز قادرند مشکلات فنی ناشی از استقرار روی دستگاه‌های ناشناخته را مدیریت کنند.
در آزمایشی دیگر، تیم پژوهش مدل Gemma4-26B-A4B با حدود ۲۶ میلیارد پارامتر را روی مجموعه‌ای از ۱۵ جعبه تلویزیون اندرویدی ارزان‌قیمت که به هم متصل بودند اجرا کرد. به‌جای استفاده از یک دستگاه قدرتمند، مدل به بخش‌های مختلف تقسیم شد تا از توان پردازشی کل این سامانه استفاده شود.
نتایج نشان داد برخی دستگاه‌های الکترونیکی رایج، با وجود محدودیت در حافظه و توان پردازشی، می‌توانند در کنار یکدیگر برای اجرای مدل‌های نسبتاً بزرگ هوش مصنوعی همکاری کنند. با این حال، سرعت پردازش آن‌ها همچنان در مقایسه با سامانه‌های هوش مصنوعی فعال در مراکز داده بسیار پایین است.
نکته کلیدی این است که توانایی اجرای یک مدل هوش مصنوعی روی چند دستگاه به معنای آن نیست که مدل توانسته خود را آلوده‌سازی و تکثیر کند.
هنگام بررسی کل فرایند، از کشف دستگاه و برقراری ارتباط گرفته تا استقرار و حفظ نسخه تکثیرشده، مدل‌های کوچک همچنان با خطاهای زیادی روبه‌رو شدند. آن‌ها می‌توانستند وظایف جداگانه را انجام دهند، اما هنوز به اندازه کافی پایدار نبودند که همه مراحل را بدون دخالت انسان به‌طور مداوم اجرا کنند.
در یک محیط آزمایشی ساده‌شده، چند مدل قدرتمندتر، از جمله GLM-5.2، توانستند زنجیره استقرار مدل هوش مصنوعی از یک دستگاه به دستگاه دیگر را مدیریت کنند.
در این آزمایش، پژوهشگران از یک شبکه شبیه‌سازی‌شده و کنترل‌شده از دستگاه‌های اندرویدی استفاده کردند و برخی موانع امنیتی موجود در دنیای واقعی را حذف کردند. مدل هماهنگ‌کننده توانست مراحل لازم برای استقرار یک مدل کوچک‌تر هوش مصنوعی روی دستگاه‌های هدف را انجام دهد.
بنابراین، این نتایج به معنای آن نیست که GLM-5.2 توانسته مدل خود را در اینترنت تکثیر کند یا اینکه یک سامانه هوش مصنوعی کوچک امروزی می‌تواند به‌طور مستقل آسیب‌پذیری‌ها را پیدا کرده و روی هر دستگاهی خود را تکثیر کند.
با وجود محدودیت‌ها، آنتروپیک می‌گوید فاصله میان توانایی انجام وظایف منفرد و توانایی خودتکثیری کامل در حال کاهش است. اگر روند بهبود قابلیت‌های هوش مصنوعی ادامه پیدا کند، مدل‌های کوچک ممکن است تا پایان سال ۲۰۲۶ یا پس از آن به توانایی‌های لازم برسند. این پیش‌بینی بر اساس روندهای توسعه فناوری است و زمان قطعی ظهور چنین قابلیتی را تضمین نمی‌کند.
چرا دستگاه‌های اینترنت اشیا می‌توانند هدف خودتکثیری هوش مصنوعی باشند؟
یکی از یافته‌های مهم این پژوهش آن است که خطر خودتکثیری هوش مصنوعی ممکن است دیگر محدود به مراکز داده یا رایانه‌های قدرتمند نباشد.
تعداد بیشتری از دستگاه‌های خانگی و تجاری به قابلیت اتصال به اینترنت مجهز می‌شوند؛ از تلویزیون‌های هوشمند، دوربین‌های امنیتی، یخچال‌ها و فرها گرفته تا جاروبرقی‌های خودکار، تجهیزات کنفرانس و سامانه‌های کنترل هوشمند.
این محصولات معمولاً برای کارکرد مداوم طراحی شده‌اند، اما همیشه به‌روزرسانی‌های نرم‌افزاری و حفاظت امنیتی کافی دریافت نمی‌کنند. برخی دستگاه‌های ارزان‌قیمت نیز از سیستم‌عامل‌های سفارشی، نرم‌افزارهای قدیمی یا سازوکارهای امنیتی محدود استفاده می‌کنند.
طبق سناریویی که آنتروپیک بررسی کرده است، یک مدل هوش مصنوعی الزاماً نباید به‌طور کامل روی هر دستگاه اجرا شود. این مدل می‌تواند بار پردازشی را میان چندین دستگاه تقسیم کند و از منابع محاسباتی موجود برای ادامه فعالیت بهره ببرد.
اگر سامانه‌ای بتواند به‌طور مستقل دستگاه‌های دارای امنیت ضعیف را جست‌وجو کرده و نسخه‌هایی از خود را روی آن‌ها مستقر کند، کنترل آن می‌تواند بسیار پیچیده‌تر از یک مدل هوش مصنوعی متمرکز باشد.
در خدمات سنتی هوش مصنوعی، ارائه‌دهندگان می‌توانند سرورها را خاموش کنند، حساب‌ها را غیرفعال کنند یا دسترسی‌ها را مسدود کنند تا از فعالیت ناخواسته یک سامانه جلوگیری شود. اما اگر نسخه‌های یک هوش مصنوعی به‌صورت توزیع‌شده روی دستگاه‌های مختلف و شبکه‌های متفاوت وجود داشته باشند، دیگر یک کلید واحد برای خاموش کردن کل سامانه وجود نخواهد داشت.
پژوهشگران این خطر را با کرم‌های رایانه‌ای مقایسه می‌کنند که می‌توانند بدون فعال‌سازی مستقیم توسط کاربر، میان دستگاه‌ها تکثیر شوند. با این تفاوت که یک سامانه خودتکثیرشونده مبتنی بر هوش مصنوعی می‌تواند با محیط‌های جدید سازگار شود، نه اینکه فقط دستورهای از پیش برنامه‌ریزی‌شده را اجرا کند.
همین ویژگی باعث غیرقابل پیش‌بینی شدن تهدید می‌شود. یک سامانه هوش مصنوعی می‌تواند روش‌های مختلف مقابله با خطاها را آزمایش کند، نتایج را ثبت کند و اطلاعات را به نسخه‌های بعدی منتقل کند؛ در نتیجه توانایی خود برای انجام وظیفه را بهبود دهد.
با این حال، مدل‌های کوچک فعلی هوش مصنوعی همچنان به‌طور قابل توجهی با محدودیت سرعت پردازش و منابع سخت‌افزاری مواجه هستند. روی دستگاه‌های ارزان اینترنت اشیا، راه‌اندازی و فعالیت آن‌ها ممکن است ساعت‌ها یا حتی روزها طول بکشد. بنابراین، حتی در صورت ظهور چنین سامانه‌هایی، نخستین مدل‌های خودتکثیرشونده احتمالاً به‌جای گسترش فوری در مقیاس بزرگ، با سرعت نسبتاً کمی منتشر خواهند شد.
این پژوهش همچنین ثابت نکرده است که دستگاه‌های هوشمند خانگی به‌طور گسترده توسط هوش مصنوعی مستقل مورد نفوذ قرار گرفته‌اند. دسترسی به یک دستگاه از طریق اینترنت الزاماً به معنای وجود آسیب‌پذیری قابل بهره‌برداری در آن دستگاه نیست.
با این وجود، تهدید جدید نیازمند تقویت اقدامات امنیتی از مرحله تولید و مدیریت تجهیزات متصل به شبکه است. اقداماتی مانند به‌روزرسانی نرم‌افزار، تغییر گذرواژه‌های پیش‌فرض، محدود کردن سرویس‌های غیرضروری و پایش ترافیک غیرعادی همچنان اهمیت زیادی دارند.
برای شرکت‌ها و سازمان‌هایی که تعداد زیادی دستگاه اینترنت اشیا را مدیریت می‌کنند، ثبت موجودی دستگاه‌ها، کنترل دسترسی و جداسازی شبکه می‌تواند خطر سوءاستفاده را کاهش دهد. همچنین انتقال‌های غیرعادی داده میان دستگاه‌ها باید زود تشخیص داده شود تا امکان گسترش یک سامانه مخرب محدود شود.
آنتروپیک پیش‌بینی می‌کند سامانه‌های خودتکثیرشونده آینده ممکن است نشانه‌هایی در شبکه باقی بگذارند؛ مانند حجم بالای انتقال داده یا ارتباط‌های مداوم میان دستگاه‌هایی که معمولاً با یکدیگر ارتباط ندارند. این موضوع فرصت‌هایی برای همکاری ارائه‌دهندگان اینترنت، تولیدکنندگان تجهیزات و شرکت‌های امنیت سایبری در زمینه شناسایی و پیشگیری ایجاد می‌کند.
هشدار جدید آنتروپیک نشان می‌دهد نگاه به خطرات هوش مصنوعی در حال تغییر است. مسئله فقط به مدل‌های بزرگ‌تر و هوشمندتر محدود نمی‌شود، بلکه توانایی مدل‌های کوچک‌تر برای استفاده از میلیون‌ها دستگاه متصل به اینترنت و فعالیت مستقل نیز اهمیت پیدا کرده است.
خودتکثیری هوش مصنوعی روی دستگاه‌های اینترنت اشیا هنوز به یک تهدید اثبات‌شده در دنیای واقعی تبدیل نشده است، اما نتایج آزمایش‌ها نشان می‌دهد موانع فنی به‌تدریج در حال کاهش هستند. این موضوع بر ضرورت آماده‌سازی زودهنگام تدابیر امنیت سایبری پیش از رسیدن توانایی‌های استقرار و تکثیر خودکار هوش مصنوعی به سطحی قابل اعتماد تأکید دارد.