هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی در دستگاه‌های خانه هوشمند خود را تکثیر کنند
شرکت آنتروپیک اعلام کرده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در میان دستگاه‌های متصل به اینترنت فاصله داشته باشند؛ موضوعی که احتمال شکل‌گیری بات‌نت‌های هوش مصنوعی را مطرح می‌کند. چنین شبکه‌هایی می‌توانند به‌سرعت گسترش یابند، در برابر تلاش‌ها برای حذف خود مقاومت کنند و حتی با نفوذ به مراکز داده، قدرت پردازشی بیشتری برای رشد خود به دست آورند.
ماه گذشته، داریو آمودی، مدیرعامل آنتروپیک، برای نخستین بار این احتمال را مطرح کرد که در یک سال آینده یا حتی زودتر، هوش مصنوعی ممکن است بتواند «کل اینترنت» را با یک «بات‌نت پایدار» تحت کنترل خود درآورد؛ هشداری که واکنش‌های زیادی در جامعه امنیت سایبری برانگیخت.
بات‌نت‌ها ــ شبکه‌های گسترده‌ای از دستگاه‌ها که توسط مهاجمان کنترل می‌شوند ــ از نخستین روزهای اینترنت وجود داشته‌اند و همچنان فعال هستند.
این شبکه‌ها معمولاً شامل دستگاه‌های اینترنت اشیا (IoT) با امنیت ضعیف، مانند گیرنده‌های تلویزیون اندرویدی، لوازم خانگی هوشمند و دوربین‌های امنیتی هستند و هکرها از آن‌ها برای ارسال هرزنامه، انتشار بدافزار یا حمله به شرکت‌های هدف با حجم زیادی از ترافیک جعلی استفاده می‌کنند.
آنتروپیک در مطلب وبلاگی خود در ۱۲ اکتبر، نخستین تلاش خود را برای توضیح چگونگی وقوع چنین سناریویی ارائه کرد.
این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند یک عامل هوش مصنوعی مخرب می‌تواند توان پردازشی دستگاه‌های ارزان‌قیمت متصل به اینترنت را به هم پیوند دهد تا مدل‌های هوش مصنوعی دیگر را اجرا کند. همچنین مدل‌ها در یک شبکه آزمایشی ساده توانستند خود را تکثیر کنند.
این شرکت گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه متمرکز واحدی برای قطع کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی مرتبط با سامانه‌های هوش مصنوعی توانمندتر می‌افزاید؛ از جمله امکان خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فناوری و کارکنان شرکت‌های فعال در این حوزه هشدارهای جدی و گاه بسیار نگران‌کننده‌ای درباره احتمال خطرات شدید، حتی خطرات وجودی، ناشی از توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
آنتروپیک اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خود را انجام دهند، اما هنوز در تکمیل کل این فرایند به‌صورت قابل اعتماد مشکل دارند.
در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی در آن حذف شده بود، آنتروپیک دریافت که مدل GLM-5.2 و مدل‌های قوی‌تر قادر به انجام فرایند تکثیر از ابتدا تا انتها هستند.
این شرکت افزود اگر مدل‌های کوچک‌تر با همان سرعت تاریخی خود بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل دست پیدا کنند.
آنتروپیک گفت یک کرم هوش مصنوعی که روی سخت‌افزارهای کم‌توان اجرا شود، ممکن است برای تکمیل بخش‌هایی از فرایند تکثیر چند روز زمان نیاز داشته باشد. با این حال، چنین شبکه‌ای می‌تواند در صورت آلوده کردن تعداد کافی دستگاه دیگر، به رشد خود ادامه دهد؛ هرچند سرعت آن ممکن است از برخی بدافزارهای سنتی کمتر باشد.
آنتروپیک همچنین هشدار داد سامانه‌های آینده ممکن است منابع پردازشی قدرتمندتری، از جمله پردازنده‌های مراکز داده، را هدف قرار دهند؛ هرچند آزمایش‌های این شرکت تکثیر خودکار از طریق مراکز داده تجاری را نشان نداده است.
Copyright 2026 Reuters. محدودیت‌های استفاده.