آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خود را روی دستگاه‌های کوچک تکثیر کنند
«چنین تکثیرکننده‌ای به‌سختی قابل متوقف کردن خواهد بود.» آنتروپیک در این باره هشدار داده است.
نویسنده: جان هاورث
سه‌شنبه، ۱۳ اکتبر ۲۰۲۶، ساعت ۹:۱۷ شب
آنتروپیک در هشداری جدید اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی لازم برای خودتکثیری روی دستگاه‌هایی مانند اجاق‌های هوشمند و گیرنده‌های تلویزیونی اندرویدی متفرقه فاصله داشته باشند.
تیم «قرمز» آنتروپیک؛ گروهی که مشکلات احتمالی امنیتی و هم‌راستاسازی مدل‌ها را بررسی می‌کند؛ بررسی کرده است که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا نه.
آنتروپیک روز دوشنبه در وب‌سایت خود اعلام کرد: «آزمایش‌های ما نشان می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تا چند ماه آینده به اندازه‌ای توانمند شوند که بتوانند روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و گیرنده‌های تلویزیونی اندرویدی متفرقه، خود را تکثیر کنند. چنین تکثیرکننده‌ای به‌سختی قابل متوقف کردن خواهد بود، زیرا نقطه متمرکزی برای خاموش کردن آن وجود ندارد.»
آنتروپیک هشدار داد که این مدل‌های کوچک ممکن است تا پایان سال جاری میلادی قادر به تکثیر خودکار شوند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به این روند ملحق شوند.
این شرکت همچنین گفت احتمال دارد چنین سامانه‌های خودکار هوش مصنوعی به‌آرامی تکثیر شوند و برای این کار به منابع پردازشی گسترده و نسبتاً ناامن که به‌طور عمومی در دسترس هستند، تکیه کنند.
آنتروپیک اعلام کرد: «باید تلاش کنیم سامانه‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی دشوار شود، اما در عین حال باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی دارند.»
این خبر در حال تکمیل است. برای دریافت به‌روزرسانی‌ها دوباره مراجعه کنید.