هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خود را تکثیر کنند

مدل‌های هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر ممکن است توانایی تکثیر خود را پیدا کنند، اما برای تکمیل کامل این فرایند با مشکل روبه‌رو شدند.

رویترز | ۱۳ اکتبر ۲۰۲۶

آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند یا خیر.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر قادر بودند بسیاری از مراحل موردنیاز برای تکثیر را انجام دهند.

با این حال، آنتروپیک اعلام کرد این مدل‌های هوش مصنوعی همچنان در تکمیل کل زنجیره فرایند از ابتدا تا انتها با مشکل مواجه شدند.

در آزمایش‌های ساده‌سازی‌شده‌ای که برخی مراحل امنیتی از آن حذف شده بود، آنتروپیک دریافت مدل‌های GLM-5.2 و مدل‌های قدرتمندتر توانایی تکثیر کامل از ابتدا تا انتها را داشتند.

آنتروپیک هشدار داد خاموش کردن مدل‌هایی که توانایی تکثیر دارند دشوار خواهد بود، زیرا چنین سامانه‌هایی نقطه مرکزی برای توقف ندارند. این شرکت افزود برخلاف بدافزارهای معمولی، این مدل‌ها می‌توانند دستگاه‌های ناآشنا را نیز خودشان شناسایی کنند و پردازنده‌های مراکز داده را هدف قرار دهند.

در این پژوهش، این شرکت تمرکز خود را بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت گذاشت، زیرا این دستگاه‌ها معمولاً از امنیت پایینی برخوردارند.

این شرکت فعال در حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌صورت خودکار تکثیر شوند و پس از آن، تکثیرکننده‌های مبتنی بر وزن مدل‌ها نیز به این توانایی دست خواهند یافت.

آنتروپیک همچنین اعلام کرد احتمالاً چنین سامانه‌های هوش مصنوعی خودمختاری به‌آرامی تکثیر خواهند شد و به منابع محاسباتی گسترده اما نسبتاً ناامن که در دسترس عموم قرار دارند، متکی خواهند بود. این شرکت افزود باید سامانه‌ها تقویت شوند تا انتشار چنین عامل‌های هوش مصنوعی دشوارتر شود.