مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خود را تکثیر کنند
Anthropic روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی کافی برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و جعبه‌های تلویزیون اندرویدی متفرقه، فاصله داشته باشند.
Anthropic در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار ادامه دهند.
این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل لازم برای تکثیر را انجام دهند.
با این حال، Anthropic اعلام کرد این مدل‌ها همچنان در اجرای کامل این فرایند از ابتدا تا انتها با مشکل روبه‌رو هستند.
در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی در آن‌ها حذف شده بود، Anthropic دریافت که مدل‌های GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا انتها را داشتند.
Anthropic هشدار داد متوقف‌کردن مدل‌های تکثیرشونده دشوار خواهد بود، زیرا آن‌ها نقطه خاموش‌سازی مرکزی ندارند و برخلاف بدافزارهای غیرهوش مصنوعی، می‌توانند خودشان دستگاه‌های ناشناخته را شناسایی کنند و پردازنده‌های مراکز داده را هدف قرار دهند.
این شرکت در پژوهش خود روی دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً امنیت ضعیفی دارند.
این شرکت بزرگ حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان سال جاری قادر خواهند بود به‌صورت خودکار تکثیر شوند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به دنبال آن‌ها خواهند آمد.
Anthropic همچنین اعلام کرد چنین سامانه‌های خودمختار هوش مصنوعی احتمالاً به‌آرامی تکثیر خواهند شد و به منابع محاسباتی در دسترس و نسبتاً ناامن متکی خواهند بود. این شرکت افزود برای دشوارتر کردن انتشار چنین عامل‌های هوش مصنوعی، باید سامانه‌ها تقویت شوند.