آنتروپیک درباره هوش مصنوعی خودتکثیرشونده هشدار داد

شرکت آنتروپیک هشدار داده است که هوش مصنوعی ممکن است به‌زودی بتواند در دستگاه‌های شخصی متصل به اینترنت در خانه‌ها خود را تکثیر کند؛ موضوعی که احتمال شکل‌گیری «بات‌نت‌ها»ی هوش مصنوعی را مطرح می‌کند؛ شبکه‌هایی که از بین بردن آن‌ها می‌تواند دشوار باشد.

بات‌نت‌ها پیش از ظهور هوش مصنوعی وجود داشته‌اند و از نمونه‌های بی‌ضرر تا کاربردهای مخرب را شامل می‌شوند، اما آنتروپیک گفته است که دسته‌های آینده هوش مصنوعی ممکن است بتوانند تمام اینترنت را تحت کنترل خود درآورند. از سوی دیگر، یکی از بنیان‌گذاران آنتروپیک نوشته است که «بهبود خودبازگشتی»؛ فرایندی پژوهشی که در آن هوش مصنوعی با نظارت اندک به‌سرعت روی خودش تکرار و بهبود می‌یابد، ممکن است سال آینده رخ دهد.

این هشدارها با انتقادهای تندی روبه‌رو شد. «درک تامپسون»، روزنامه‌نگار، گفت: «آن‌ها چیزی را که نمی‌خواهند وجود داشته باشد، نخواهند ساخت.» او افزود که مدیران آنتروپیک باید دست از رفتار «مثل یک گوینده اخبار محلی که درباره ترافیک در بزرگراه ۱۰۱ گزارش می‌دهد» بردارند و بپذیرند که خودشان بخشی از همین ترافیک هستند.