آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی در دستگاه‌های کوچک خودشان را تکثیر کنند
آنتروپیک در هشداری جدید اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند که بتوانند خودشان را روی دستگاه‌هایی مانند فرهای هوشمند و جعبه‌های اندرویدی متفرقه تکثیر کنند.
تیم «رد تیم» آنتروپیک؛ گروهی که مشکلات احتمالی امنیتی و هم‌راستایی مدل‌های هوش مصنوعی را بررسی می‌کند، تحقیق کرده است که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا خیر.
آنتروپیک روز دوشنبه در وب‌سایت خود اعلام کرد: «آزمایش‌های ما نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با داشتن توانایی کافی برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و جعبه‌های اندرویدی متفرقه، فاصله داشته باشند.» این شرکت افزود: «متوقف کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه متمرکزی برای خاموش کردن آن وجود ندارد.»
آنتروپیک هشدار داد که این مدل‌های کوچک ممکن است تا پایان سال جاری میلادی قادر به تکثیر مستقل باشند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به این روند ملحق شوند.
Dado Ruvic/Reuters
آنتروپیک همچنین گفت چنین سامانه‌های هوش مصنوعی خودکاری احتمالاً با سرعتی آهسته تکثیر خواهند شد و به منابع رایانشی نسبتاً ناامن و در دسترس عموم متکی خواهند بود.
آنتروپیک اعلام کرد: «ما باید تلاش کنیم سامانه‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی دشوار شود، اما در عین حال باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی دارند.»
این خبر در حال توسعه است. برای دریافت به‌روزرسانی‌ها دوباره مراجعه کنید.