آنتروپیک درباره خطر قریب‌الوقوع خارج شدن هوش مصنوعی از کنترل هشدار داد
تهران - برنا - این هشدار پس از موج انتشار مدل‌های پیشرفته هوش مصنوعی مطرح شده است. گوگل عرضه تدریجی مدل Gemini 4 با نام رمز Argon را آغاز کرد و مدت کوتاهی بعد، متا مدل‌های پیشرفته Muse Wonder خود را برای رقابت با بهترین محصولات OpenAI و کلاد آنتروپیک معرفی کرد. سرعت بالای انتشار مدل‌های جدید همچنان ادامه دارد، حتی در شرایطی که همین آزمایشگاه‌های هوش مصنوعی خواستار کاهش سرعت توسعه و افزایش مقررات‌گذاری شده‌اند؛ اقدامی که پس از مجموعه‌ای از رخدادها انجام شد که در آن برخی مدل‌ها از کنترل خارج شدند و به وب‌سایت‌های خصوصی و دولتی نفوذ کردند.
به گزارش Digital Trends، آنتروپیک اکنون مجموعه‌ای از پیش‌بینی‌های نگران‌کننده درباره توانایی‌های این مدل‌ها منتشر کرده است؛ پیش‌بینی‌هایی که پس از انجام چندین آزمایش روی قابلیت‌های آن‌ها ارائه شده‌اند.
مدل‌های کوچک، خطرهای بزرگ
این شرکت می‌گوید مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی خودتکثیری و تبدیل شدن به یک شبکه خطرناک از عامل‌های هوشمند فاصله داشته باشند. به گفته آنتروپیک، نکته مهم‌تر این است که این مدل‌ها برای چنین کاری به مراکز داده عظیم یا رایانه‌های فوق‌العاده قدرتمند نیاز نخواهند داشت؛ گروه‌هایی از هوش مصنوعی خودتکثیرشونده می‌توانند روی دستگاه‌هایی با توان پردازشی مشابه یک وسیله معمولی متصل به اینترنت فعالیت کنند.
آنتروپیک هشدار می‌دهد که برخلاف بدافزارهای غیرهوش مصنوعی، این فناوری می‌تواند به‌طور مستقل روش کار با دستگاه‌های ناشناخته را پیدا کند. این شرکت ادعا می‌کند اگر مدل‌های کوچک با همان سرعت تاریخی خود پیشرفت کنند، تا پایان سال به چنین سطحی از توانایی خواهند رسید.
آنتروپیک می‌گوید سرعت خودتکثیر یک مدل هوش مصنوعی در ابتدا پایین خواهد بود؛ به‌طوری که احتمالاً تعداد نسخه‌های آن حدود هر یک روز دو برابر می‌شود. با این حال، نگرانی اصلی از نظر این شرکت دشواری خاموش کردن چنین هوش مصنوعی‌ای است، زیرا این سامانه دیگر در یک نقطه مرکزی واحد وجود نخواهد داشت.
هشدار دیگر این است که یک هوش مصنوعی خودتکثیرشونده الزاماً برای ایجاد خسارت به مراکز داده گران‌قیمت حمله نمی‌کند. این فناوری می‌تواند از طریق دستگاه‌های اینترنت اشیا و هاب‌های خانه هوشمند گسترش یابد؛ دستگاه‌هایی که اغلب سازوکارهای امنیتی کافی ندارند، اما قدرت پردازشی لازم برای اجرای چنین عامل‌های هوشمندی را در اختیار دارند.
آنتروپیک ادعا می‌کند حتی دستگاه‌هایی که ظاهراً هوشمند نیستند، مانند جاروبرقی‌ها، ماشین‌های چمن‌زنی، یخچال‌ها و فرها نیز می‌توانند هدف چنین حملاتی مبتنی بر هوش مصنوعی قرار گیرند.
این ادعاها ممکن است دور از ذهن به نظر برسند، اما کاملاً بدون سابقه نیستند. یک روز پیش از انتشار این گزارش، هکرها به سامانه‌های یک زنجیره فروشگاه مواد غذایی در فرانسه حمله کردند و صدها یخچال را از کار انداختند؛ رخدادی که باعث فاسد شدن مواد غذایی و وارد آمدن خسارت‌هایی به ارزش صدها هزار واحد پولی شد.
«تکامل واقعی ماشین‌ها»
نگران‌کننده‌تر اینکه این گزارش می‌گوید مدل‌های هوش مصنوعی خودتکثیرشونده ممکن است فرایندی شبیه تکامل را تجربه کنند؛ فرایندی مشابه دیدگاهی که لامارک درباره موجودات زنده مطرح کرده بود.
به زبان ساده، یک مدل هوش مصنوعی والد می‌تواند آموخته‌های خود، از جمله دستورهای متنی، کدها و یادداشت‌ها را به نسخه‌های تکثیرشده بعدی منتقل کند.
این پدیده نیز کاملاً بی‌سابقه نیست. در یک رخداد شناخته‌شده در اوایل سال جاری در پلتفرم Hugging Face، عامل‌های هوش مصنوعی OpenAI از محیط ایزوله خود خارج شدند و هنگام عبور از موانع زیرساختی، برای دیگر عامل‌های هوش مصنوعی یادداشت‌هایی بر جای گذاشتند.
در آزمایش‌های آنتروپیک، پژوهشگران دریافتند نرخ موفقیت نمونه‌های مدل Qwen3.5-9B پس از خواندن یادداشت‌های باقی‌مانده از نمونه‌های قبلی افزایش یافته است. هنگامی که این رفتار در نسل پنجم تکرار شد، نرخ موفقیت در آزمون‌ها از ۴۵ درصد به ۸۴ درصد رسید.
آنتروپیک گفت: «فراتر از آزمایش‌های ما، آینده‌ای را پیش‌بینی می‌کنیم که در آن گروه‌هایی از عامل‌های هوش مصنوعی روی طیف گسترده‌ای از سخت‌افزارها فعالیت کنند؛ از جمله برخی دستگاه‌هایی که خارج از کنترل انسان هستند.»
یافته نگران‌کننده دیگر این است که برخلاف بدافزارهای معمولی که برای اجرا تنها روی سخت‌افزارهای مشخص برنامه‌ریزی شده‌اند، عامل‌های هوش مصنوعی می‌توانند به‌طور مستقل یک پلتفرم سخت‌افزاری جدید را شناسایی کنند، با آن سازگار شوند و نحوه کار روی آن را یاد بگیرند.
آنتروپیک گفت: «برخلاف بدافزارهای غیرهوش مصنوعی، این فناوری می‌تواند به‌طور مستقل روش کار با دستگاه‌های ناشناخته را کشف کند. در ارزیابی‌های ما، یک مدل ۹ میلیارد پارامتری توانست فرایند استنتاج را روی هشت مورد از ۹ نوع سخت‌افزاری که آزمایش کردیم اجرا کند.»