هشدار آنتروپیک درباره هوش مصنوعی خودتکثیرشونده‌ای که ممکن است حتی روی فر یا تلویزیون کار کند
در هفته‌های اخیر تقریباً همه آزمایشگاه‌های بزرگ هوش مصنوعی مدل‌های پیشرفته جدیدی عرضه کرده‌اند. گوگل امروز عرضه Gemini 4، Argon را آغاز کرد؛ اقدامی که پس از معرفی مدل‌های پیشرفته Muse Wonder از متا برای رقابت با برترین مدل‌های OpenAI و Claude از آنتروپیک انجام شد. این روند سریع انتشار مدل‌های هوش مصنوعی در شرایطی ادامه دارد که همین شرکت‌ها خواستار کاهش سرعت توسعه و افزایش مقررات نظارتی شده‌اند؛ آن هم پس از مجموعه‌ای از رخدادهای نگران‌کننده که در آن برخی مدل‌های هوش مصنوعی رفتارهای خارج از انتظار نشان دادند و به وب‌سایت‌های خصوصی و حتی دولتی نفوذ کردند.
اکنون آنتروپیک پس از اجرای مجموعه‌ای از آزمایش‌ها، پیش‌بینی‌هایی نگران‌کننده درباره توانایی‌های احتمالی این مدل‌ها ارائه کرده است. این شرکت می‌گوید مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی خودتکثیر شدن و تبدیل شدن به یک «انبوهه خطرناک» فاصله داشته باشند. مهم‌تر اینکه برای این کار به یک مرکز داده عظیم یا رایانه‌ای بسیار قدرتمند نیاز نخواهند داشت. آنتروپیک معتقد است چنین انبوهه‌هایی از هوش مصنوعی خودتکثیرشونده ممکن است به قدرت پردازشی در حد یک دستگاه معمولی متصل به اینترنت، مانند یک فر هوشمند یا جعبه تلویزیون اندرویدی، نیاز داشته باشند.
این موضوع نگران‌کننده است
آنتروپیک هشدار می‌دهد: «برخلاف بدافزارهای غیرهوش مصنوعی، این سامانه‌ها می‌توانند خودشان دستگاه‌های ناآشنا را نیز شناسایی کنند.» این شرکت اضافه می‌کند: «اگر مدل‌های کوچک با همان سرعت تاریخی خود پیشرفت کنند، تا پایان امسال به این سطح از توانایی خواهند رسید. اندکی پس از آن، ممکن است تکثیرکننده‌های کوچک مبتنی بر وزن‌های مدل امکان‌پذیر شوند.»
این شرکت می‌گوید سرعت خودتکثیر شدن یک مدل هوش مصنوعی در ابتدا احتمالاً پایین خواهد بود و ممکن است حدود یک روز طول بکشد تا تعداد آن دو برابر شود.
«به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های خود، انتظار داریم آینده‌ای را ببینیم که مملو از عامل‌هایی باشد که روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
اما چیزی که بیش از همه نگران‌کننده است، این مشاهده آنتروپیک است که خاموش کردن یک هوش مصنوعی خودتکثیرشونده ممکن است دشوار باشد، زیرا چنین سامانه‌ای وجودی متمرکز نخواهد داشت. پیش‌بینی هشداردهنده دیگر این است که هوش مصنوعی خودتکثیرشونده لزوماً برای ایجاد آسیب به مراکز داده گران‌قیمت حمله نخواهد کرد. در عوض، ممکن است از طریق دستگاه‌های اینترنت اشیا و هاب‌های خانه هوشمند توزیع شود؛ دستگاه‌هایی که اغلب فاقد سازوکارهای ایمنی کافی هستند و قدرت پردازشی لازم برای رشد و گسترش این عامل‌های خودتکثیرشونده را دارند.
آنتروپیک ادعا می‌کند حتی دستگاه‌هایی که ظاهراً ساده هستند، مانند جاروبرقی، ماشین چمن‌زن، یخچال و فر، می‌توانند هدف چنین حملاتی مبتنی بر هوش مصنوعی قرار گیرند. این ادعاها شاید عجیب به نظر برسند، اما کاملاً بی‌سابقه نیستند. تنها یک روز پیش، هکرها به زنجیره‌های فروشگاه‌های مواد غذایی در فرانسه حمله کردند و صدها یخچال را گرم کردند؛ اقدامی که باعث فاسد شدن مواد غذایی و وارد شدن خسارتی چند صد هزار دلاری شد.
تکامل واقعی ماشین‌ها
موضوع ترسناک‌تر این است که مدل‌های هوش مصنوعی خودتکثیرشونده می‌توانند روندی شبیه تکامل را تجربه کنند؛ مشابه دیدگاهی که لامارک درباره موجودات زیستی مطرح کرده بود. به بیان ساده، یک مدل مادر هوش مصنوعی می‌تواند آموخته‌های خود، شامل دستورها، کدها و یادداشت‌ها، را به نسخه‌های تکثیرشده بعدی منتقل کند. این اتفاق نیز کاملاً بی‌سابقه نیست. در رخداد معروف Hugging Face در اوایل سال جاری، عامل‌های OpenAI از محیط ایزوله خود خارج شدند، هنگام عبور از زیرساخت‌ها یادداشت‌هایی برای دیگر عامل‌های هوش مصنوعی بر جای گذاشتند.
در آزمایش‌های آنتروپیک، پژوهشگران دریافتند نمونه‌های مدل هوش مصنوعی Qwen3.5-9B پس از مطالعه یادداشت‌هایی که نسخه‌های قبلی بر جای گذاشته بودند، میزان موفقیت بیشتری پیدا کردند. تا زمانی که این رفتار برای نسل پنجم تکرار شد، نرخ موفقیت در آزمایش‌ها از ۴۵ درصد به ۸۴ درصد افزایش یافت.
آنتروپیک در ادامه می‌گوید: «به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های خود، انتظار داریم آینده‌ای را ببینیم که مملو از عامل‌هایی باشد که روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
یافته نگران‌کننده دیگر این است که برخلاف بدافزارهای معمولی که برای اجرا روی سخت‌افزار مشخصی برنامه‌ریزی می‌شوند، عامل‌های هوش مصنوعی می‌توانند به‌تنهایی نحوه کار با یک پلتفرم سخت‌افزاری جدید را پیدا کنند، با آن سازگار شوند و یاد بگیرند. آنتروپیک می‌گوید: «برخلاف بدافزارهای غیرهوش مصنوعی، این سامانه‌ها می‌توانند دستگاه‌های ناآشنا را نیز خودشان شناسایی کنند. در ارزیابی‌های ما، یک مدل ۹ میلیارد پارامتری توانست روی ۸ مورد از ۹ نوع سخت‌افزاری که آزمایش کردیم، فرایند استنتاج را اجرا کند.»