هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مراکز داده خودشان را تکثیر کنند
شرکت آنتروپیک روز دوشنبه اعلام کرد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی کپی‌کردن خود روی دستگاه‌های معمولی متصل به اینترنت، مانند فرهای هوشمند و دستگاه‌های اندرویدی تلویزیونی ساخت شرکت‌های کمتر شناخته‌شده، فاصله داشته باشند.
این شرکت هوش مصنوعی در آزمایش‌های خود بررسی کرد که آیا مدل‌ها می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا خیر. نتایج نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل جداگانه مورد نیاز برای تکثیر را انجام دهند، اما در اجرای کامل این فرایند از ابتدا تا انتها با مشکل مواجه می‌شوند.
آنتروپیک اعلام کرد در آزمایش‌های ساده‌تر که برخی اقدامات امنیتی در آن‌ها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند تکثیر را از ابتدا تا انتها انجام دهند.
این شرکت هشدار داد اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌صورت مستقل تکثیر شوند و پس از آن نیز نمونه‌های کوچک مبتنی بر وزن‌های مدل، یعنی نسخه‌هایی که از پارامترهای یادگیری مدل استفاده می‌کنند، به‌سرعت دنبال خواهند شد.
آنتروپیک گفت متوقف‌کردن مدل‌هایی که توانایی تکثیر دارند دشوار خواهد بود، زیرا هیچ کلید خاموش مرکزی برای آن‌ها وجود ندارد. این شرکت افزود برخلاف بدافزارهای معمولی، چنین مدل‌هایی می‌توانند خودشان دستگاه‌های ناآشنا، از جمله پردازنده‌های مراکز داده، را نیز شناسایی و با آن‌ها کار کنند.
این پژوهش بر دستگاه‌های اینترنت اشیا (IoT)، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر دستگاه‌های متصل تمرکز داشت، زیرا این تجهیزات معمولاً از سطح امنیتی پایینی برخوردارند.
آنتروپیک اعلام کرد چنین سامانه‌های هوش مصنوعی خودمختاری احتمالاً به‌آرامی تکثیر خواهند شد و برای این کار به منابع رایانشی گسترده و نسبتاً ناامن که در دسترس عموم قرار دارند متکی خواهند بود. این شرکت تأکید کرد باید سامانه‌ها تقویت شوند تا گسترش چنین عامل‌های هوش مصنوعی دشوارتر شود.
(اطلاعات از رویترز)