مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خود را تکثیر کنند: آنتروپیک

شرکت آنتروپیک روز دوشنبه اعلام کرد آزمایش‌های این شرکت نشان داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا، مانند اجاق‌های هوشمند و گیرنده‌های تلویزیونی اندرویدی متفرقه، فاصله داشته باشند.

آنتروپیک در این آزمایش‌ها بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا خیر.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل موردنیاز برای تکثیر را انجام دهند.

با این حال، آنتروپیک اعلام کرد چنین مدل‌هایی همچنان در تکمیل کل این فرایند از ابتدا تا انتها با مشکل مواجه هستند.

در آزمایش‌های ساده‌شده این شرکت که در آن برخی مراحل امنیتی حذف شده بود، آنتروپیک دریافت که مدل‌های GLM-5.2 و مدل‌های قوی‌تر قادر به تکثیر کامل از ابتدا تا انتها بودند.

آنتروپیک هشدار داد متوقف کردن مدل‌هایی که قادر به تکثیر خود هستند دشوار خواهد بود، زیرا این سیستم‌ها یک نقطه مرکزی برای خاموش‌سازی ندارند و برخلاف بدافزارهای غیرهوش مصنوعی، می‌توانند دستگاه‌های ناشناخته را نیز به‌صورت مستقل شناسایی کنند و پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً از امنیت ضعیفی برخوردار هستند.

این شرکت فعال در حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی پیشرفت خود بهبود پیدا کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌طور مستقل خود را تکثیر کنند و تکثیرکننده‌های مبتنی بر وزن مدل نیز اندکی پس از آن به این توانایی خواهند رسید.

آنتروپیک همچنین اعلام کرد احتمالاً چنین سیستم‌های خودمختار هوش مصنوعی به‌آرامی تکثیر خواهند شد و برای این کار به منابع محاسباتی گسترده، در دسترس و نسبتاً ناامن تکیه خواهند کرد. این شرکت افزود باید سیستم‌ها تقویت شوند تا انتشار و گسترش چنین عامل‌های هوش مصنوعی دشوارتر شود.