آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه در دستگاه‌های هوشمند خودتکثیر شوند
۱۳ اکتبر ۲۰۲۶
آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی تنها چند ماه با دستیابی به توانایی تکثیر خود روی دستگاه‌های اینترنت اشیا مانند اجاق‌ها و تلویزیون‌های هوشمند فاصله دارند. به گزارش یورونیوز، این اعلامیه نشان می‌دهد که این مدل‌ها ممکن است از مراکز داده‌ای که اکنون در آن‌ها اجرا می‌شوند فراتر بروند و شیوه فعالیت متفاوتی پیدا کنند.
مدل‌های هوش مصنوعی امروزی معمولاً در مراکز داده مستقر هستند؛ جایی که صاحبان آن‌ها می‌توانند در صورت بروز مشکل، برق سیستم را قطع کنند. اما مدلی که در هزاران دستگاه خانگی و اداری با امنیت پایین پراکنده شود، چنین کلید خاموشی متمرکزی نخواهد داشت. متوقف کردن آن مستلزم یافتن و پاک‌سازی تک‌تک دستگاه‌های آلوده خواهد بود؛ فرایندی که اگر از چنین مدلی برای حملات سایبری استفاده شود، مهار آن را بسیار دشوار می‌کند.
این هشدار در سالی مطرح شده است که در آن، طبق گزارش منبع، مدل‌های پیشرفته هوش مصنوعی و عامل‌های آن‌ها بارها از تدابیر و محدودیت‌های ایمنی عبور کرده و حملاتی را علیه شرکت‌های رقیب و نهادهای دولتی در سراسر جهان انجام داده‌اند.
آنتروپیک اعلام کرده است که هوش مصنوعی خودتکثیرشونده می‌تواند شکل‌های مختلفی داشته باشد. این شرکت هشدار داده است که چنین سامانه‌ای ممکن است به یک مدل سایبری قدرتمند تبدیل شود که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی باشد که با فریب کاربران، اعتبار محاسباتی دریافت می‌کند. با این حال، آنتروپیک تأکید کرده است که نمی‌تواند با قطعیت بگوید تکثیر مستقل هوش مصنوعی در نهایت چه شکلی خواهد داشت.
به گفته آنتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون قادرند بسیاری از مراحل موردنیاز برای تکثیر خود را انجام دهند، اما هنگام اتصال این مراحل به یکدیگر از ابتدا تا انتها دچار خطا می‌شوند. اگر مدل‌های کوچک با همان نرخ تاریخی فعلی بهبود پیدا کنند، تا پایان سال خواهند توانست به این توانایی دست یابند.
آنتروپیک تهدید سایبری ناشی از هوش مصنوعی خودتکثیرشونده را پیامدی ناخواسته از پیشرفت‌های دیگر در این حوزه توصیف کرده است. این شرکت در بیانیه‌ای گفت قابلیت‌هایی که باعث می‌شوند مدل‌های هوش مصنوعی به عامل‌های قدرتمند برنامه‌نویسی تبدیل شوند، برای وظایف سایبری از جمله تکثیر خودکار نیز کاربرد دارند.
کدهای خودکپی‌شونده پدیده تازه‌ای نیستند. برخی از مخرب‌ترین حملات سایبری تاریخ بر برنامه‌های خودگسترش‌یابنده‌ای موسوم به «کرم» متکی بوده‌اند. حمله استاکس‌نت در سال ۲۰۱۰ از یک کرم پیچیده استفاده کرد که به‌طور گسترده گفته می‌شود توسط آمریکا و اسرائیل ساخته شده بود و برای خرابکاری در سانتریفیوژهای تأسیسات غنی‌سازی اورانیوم نطنز ایران به کار رفت. در سال ۲۰۱۷ نیز حمله باج‌افزاری واناکرای کاربران سراسر جهان را از دسترسی به فایل‌هایشان محروم کرد و در ازای بازگرداندن دسترسی، درخواست پرداخت با بیت‌کوین داشت.
با این حال، آنتروپیک می‌گوید برخلاف آن کرم‌ها، مدل‌ها و عامل‌های هوش مصنوعی قادر خواهند بود دستگاه‌های ناشناخته را به‌طور مستقل شناسایی و با آن‌ها کار کنند. این قابلیت می‌تواند امکان گسترش آن‌ها را نه فقط از یک رایانه به رایانه‌ای دیگر، بلکه از رایانه‌ها به انواع دیگر دستگاه‌ها فراهم کند.
آنتروپیک آینده‌ای را پیش‌بینی می‌کند که در آن عامل‌های هوش مصنوعی روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی دستگاه‌هایی که تحت کنترل مستقیم انسان نیستند.