آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خود را در دستگاه‌های کوچک تکثیر کنند

شرکت آنتروپیک در هشداری جدید اعلام کرد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی کافی برای تکثیر خود روی دستگاه‌هایی مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی غیررسمی فاصله داشته باشند.

تیم «قرمز» آنتروپیک؛ گروهی که مسائل احتمالی امنیتی و هم‌راستایی مدل‌ها با اهداف انسانی را بررسی می‌کند، آزمایش‌هایی انجام داد تا مشخص کند آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن دستگاه‌ها کپی کنند و بدون دخالت انسان به انتشار ادامه دهند یا خیر.

آنتروپیک روز دوشنبه در وب‌سایت خود اعلام کرد: «آزمایش‌های ما نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی غیررسمی، فاصله داشته باشند. چنین تکثیرکننده‌ای می‌تواند مهار دشواری داشته باشد، زیرا هیچ نقطه مرکزی برای خاموش کردن آن وجود ندارد.»

آنتروپیک هشدار داد این مدل‌های کوچک ممکن است تا پایان سال جاری میلادی بتوانند به‌صورت مستقل خود را تکثیر کنند و پس از آن، تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل نیز به این توانایی دست پیدا کنند.

این شرکت همچنین گفت چنین سامانه‌های هوش مصنوعی خودمختاری احتمالاً به‌آرامی تکثیر خواهند شد و برای فعالیت به منابع محاسباتی نسبتاً ناامن و در دسترس عموم متکی خواهند بود.

آنتروپیک اعلام کرد: «باید تلاش کنیم سامانه‌های خود را مقاوم‌تر کنیم تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما در عین حال باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی پیدا کرده‌اند.»

این خبر در حال تکمیل است. برای به‌روزرسانی‌ها دوباره مراجعه کنید.