مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خودتکثیر شوند: آنتروپیک

سن‌فرانسیسکو – آنتروپیک در ۱۲ اکتبر اعلام کرد آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی لازم برای خودتکثیری روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و گیرنده‌های ارزان‌قیمت اندروید تی‌وی، فاصله داشته باشند.

آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش ادامه دهند.

این شرکت دریافت مدل‌های کوچک‌تر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل موردنیاز برای تکثیر را انجام دهند.

با این حال، آنتروپیک اعلام کرد چنین مدل‌هایی همچنان در تکمیل تمام مراحل این فرایند از ابتدا تا انتها با مشکل مواجه بودند.

در آزمایش‌های ساده‌شده‌ای که برخی لایه‌های امنیتی در آن حذف شده بود، آنتروپیک دریافت مدل GLM-5.2 و مدل‌های قوی‌تر توانستند فرایند خودتکثیری کامل را انجام دهند.

آنتروپیک هشدار داد متوقف کردن مدل‌های خودتکثیرشونده دشوار خواهد بود، زیرا نقطه خاموش‌کردن مرکزی ندارند. این شرکت افزود برخلاف بدافزارهای معمولی، این مدل‌ها می‌توانند خودشان دستگاه‌های ناشناخته را شناسایی کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.

این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً امنیت ضعیفی دارند.

آنتروپیک همچنین هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی پیشرفت خود بهبود یابند، تا پایان سال ۲۰۲۶ قادر خواهند بود به‌صورت مستقل خود را تکثیر کنند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به این توانایی دست خواهند یافت.

آنتروپیک گفت چنین سامانه‌های هوش مصنوعی مستقلی احتمالاً با سرعتی آهسته تکثیر خواهند شد و به منابع رایانشی گسترده و نسبتاً ناامن که در دسترس عموم قرار دارد، متکی خواهند بود. این شرکت افزود باید سامانه‌ها تقویت شوند تا گسترش چنین عامل‌های هوش مصنوعی دشوارتر شود.

عکس: رویترز