هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی خودتکثیر شوند

شرکت آنتروپیک اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده قادر شوند خود را روی دستگاه‌های تجاری اینترنت اشیا (IoT) مانند اجاق‌های هوشمند و تلویزیون‌های مجهز به اندروید از برندهای کمتر شناخته‌شده تکثیر کنند.

آنتروپیک در این آزمایش‌ها بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، خود را روی این دستگاه‌ها کپی کنند و بدون دخالت انسان به گسترش خود ادامه دهند یا خیر.

به گزارش رویترز، این شرکت دریافت مدل‌های کوچک‌تر ــ مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر ــ می‌توانند مراحل مختلف مورد نیاز برای خودتکثیری را انجام دهند.

با این حال، آنتروپیک اشاره کرد که این مدل‌ها در تکمیل تمام مراحل این فرایند از ابتدا تا انتها با مشکل روبه‌رو شدند. در آزمایش‌های ساده‌سازی‌شده‌ای که برخی تدابیر امنیتی در آن‌ها حذف شده بود، این شرکت دریافت مدل GLM-5.2 و مدل‌های قدرتمندتر قادر به تکمیل کامل فرایند خودتکثیری بودند.

آنتروپیک هشدار داد مدل‌های خودتکثیرشونده می‌توانند به‌سختی متوقف شوند، زیرا نقطه کنترل مرکزی مشخصی برای غیرفعال کردن آن‌ها وجود ندارد. علاوه بر این، برخلاف بدافزارهای سنتی، این مدل‌ها می‌توانند به‌طور مستقل دستگاه‌های ناشناخته را کشف کنند و پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های مبتنی بر اندروید، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت تمرکز کرد و گفت این دستگاه‌ها اغلب از سطح امنیتی کافی برخوردار نیستند.

این شرکت پیشرو در حوزه هوش مصنوعی همچنین هشدار داد اگر مدل‌های کوچک همچنان با سرعت بی‌سابقه کنونی پیشرفت کنند، تا پایان سال جاری قادر خواهند بود به‌صورت مستقل خود را تکثیر کنند و مدل‌های تکثیرشونده مبتنی بر وزن‌های مدل نیز احتمالاً مدت کوتاهی پس از آن به این قابلیت دست خواهند یافت.

آنتروپیک افزود این سامانه‌های هوش مصنوعی خودمختار احتمالاً به‌آرامی تکثیر خواهند شد و از منابع پردازشی در دسترس عمومی استفاده خواهند کرد؛ منابعی که در بسیاری موارد امنیت کافی ندارند. این شرکت تأکید کرد باید سامانه‌ها تقویت شوند تا گسترش چنین عامل‌های هوش مصنوعی دشوارتر شود.