آیا مدل‌های هوش مصنوعی تا چند ماه دیگر قادر به خودتکثیری می‌شوند؟ هشدار آنتروپیک درباره خطر حملات خودمختار
آنتروپیک هشدار داده است که مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به قابلیت‌های لازم برای تکثیر خود در میان دستگاه‌های متصل به اینترنت در خانه‌ها فاصله داشته باشند؛ موضوعی که نگرانی‌ها درباره گسترش سامانه‌های هوش مصنوعی خودمختار را افزایش داده است.
با پیشرفت عامل‌های هوش مصنوعی و حرکت آن‌ها به سطوح بالاتر توسعه که با یادگیری بازگشتی تقویت می‌شود، آنتروپیک بار دیگر درباره رشد این فناوری هشدار داده است. این شرکت با ابراز نگرانی از توسعه سریع قابلیت‌های هوش مصنوعی اعلام کرده است که مدل‌های هوش مصنوعی تنها «چند ماه» با رسیدن به توانایی لازم برای تکثیر خود در دستگاه‌های متصل به اینترنت فاصله دارند.
این شرکت هوش مصنوعی با اشاره به یک خطر امنیتی دیگر توضیح داده است که مدل‌های هوش مصنوعی ممکن است بتوانند به دستگاه‌های متصل به اینترنت، مانند اجاق‌های هوشمند یا جعبه‌های تلویزیون اندرویدی، نفوذ کنند و از توان پردازشی آن‌ها برای اجرای مستقل خود استفاده کنند. چنین نفوذی خطر خارج شدن یک مدل هوش مصنوعی از کنترل و انتشار آن در میان دستگاه‌های مختلف را افزایش می‌دهد.
آنتروپیک در یک مطلب وبلاگی تأکید کرده است که در چنین سناریویی، متوقف کردن مدل هوش مصنوعی می‌تواند «چالش‌برانگیز» باشد، زیرا «نقطه مرکزی برای خاموش کردن آن وجود ندارد».
این پژوهش جدید به نگرانی‌های فزاینده درباره توانایی سامانه‌های هوش مصنوعی برای تکثیر خود و انجام حملات سایبری اضافه می‌کند. اهمیت این تحولات با توجه به تأکید پیشین آنتروپیک بر ضرورت ایجاد محدودیت‌های ایمنی قوی‌تر و اقداماتی برای کنترل سرعت توسعه فناوری، بیشتر شده است.
آنتروپیک قابلیت‌های خودتکثیری را آزمایش می‌کند
آنتروپیک اعلام کرده است که آزمایش‌هایی را برای بررسی امکان خودتکثیری هوش مصنوعی انجام داده است. یکی از این آزمایش‌ها شامل اجرای مدل کوچک Gemma 4-26B-A4B شرکت گوگل روی مجموعه‌ای از ۱۵ جعبه تلویزیون اندرویدی ارزان‌قیمت بود.
در این آزمایش مشخص شد که چنین دستگاه‌هایی اغلب از امنیت ضعیفی برخوردارند و این مسئله می‌تواند به یک مدل اجازه نفوذ به آن‌ها را بدهد. مدلی که برای اجرا روی یک دستگاه بیش از حد بزرگ باشد، ممکن است به بخش‌های کوچک‌تر تقسیم شود و در چندین دستگاه مختلف اجرا شود.
آنتروپیک گفته است: «در عمل، یک کرم هوش مصنوعی لزوماً فقط از یک مدل یا یک راهبرد تشکیل نمی‌شود. گروهی از مدل‌های مختلف که روی انواع گوناگون سخت‌افزار و با استفاده از روش‌های متنوع تکثیر مستقر شده‌اند، ممکن است سناریوی واقع‌بینانه‌تری از بدترین حالت یک حمله را تشکیل دهند.»
این گزارش همچنین اضافه می‌کند که هنوز مشخص نیست تکثیر هوش مصنوعی دقیقاً چه شکلی خواهد داشت. این آزمایشگاه هوش مصنوعی هشدار داده است که این پدیده ممکن است به شکل یک سامانه «کند و توزیع‌شده» روی یک دستگاه ناامن، یک «مدل سایبری قدرتمند» که با سرعت بالا میان مراکز داده گسترش پیدا می‌کند، یا مدلی که افراد را برای دریافت اعتبار پردازشی فریب می‌دهد، ظاهر شود.
آنتروپیک فراتر از نتایج آزمایش‌ها پیش‌بینی کرده است که در آینده‌ای نه‌چندان دور، عامل‌های هوش مصنوعی روی انواع سخت‌افزارها اجرا خواهند شد؛ از جمله دستگاه‌هایی که تحت کنترل انسان نیستند.
نخستین انتشار: ۱۳ اکتبر ۲۰۲۶، ساعت ۱۸:۱۰:۲۸ به وقت استاندارد هند