هشدار آنتروپیک: هوش مصنوعی ممکن است «خودش را تکثیر کند» و اینترنت را تصاحب کند؛ این یعنی چه؟
با افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی، شرکت آنتروپیک تلاش دارد توجه‌ها را به یکی دیگر از خطرات احتمالی این فناوری جلب کند.
این شرکت سازنده مدل‌های کلود روز دوشنبه ۱۲ اکتبر هشدار داد که اگر مدل‌های هوش مصنوعی با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ توانایی تکثیر خودکار در سراسر اینترنت را پیدا کنند.
آنتروپیک در مطلبی در شبکه اجتماعی ایکس اعلام کرد که یک گروه از عامل‌های هوش مصنوعی «سرکش» یا ناسازگار با اهداف تعیین‌شده می‌تواند یک بات‌نت ایجاد کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای حذف خود مقاومت کند و حتی برای افزایش توان محاسباتی خود به مراکز داده نفوذ کند.
ایده اینکه هوش مصنوعی بتواند با ایجاد «یک بات‌نت پایدار» «کل اینترنت» را تحت کنترل خود بگیرد، نخستین بار ماه گذشته از سوی داريو آمودی، مدیرعامل آنتروپیک، مطرح شد. پست اخیر این شرکت دیدگاه آمودی را تأیید کرده و تلاش می‌کند توضیح دهد چنین اتفاقی چگونه ممکن است رخ دهد.
برای نمونه، آنتروپیک مطرح کرده است که مدل‌ها ممکن است راه‌هایی برای هدف قرار دادن منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که می‌تواند به آن‌ها امکان دسترسی به حجم بسیار بزرگ‌تری از توان پردازشی را بدهد.
این هشدار آنتروپیک در شرایطی مطرح می‌شود که نگرانی‌های امنیتی مرتبط با سیستم‌های هوش مصنوعی پیشرفته‌تر به اوج خود رسیده است؛ زیرا عامل‌های هوش مصنوعی نشان داده‌اند که می‌توانند حملات سایبری را خودکار کنند، با نظارت محدود انسانی فعالیت کنند و برخی سازوکارهای حفاظتی را دور بزنند.
مجموعه‌ای از حملات سایبری مرتبط با عامل‌های هوش مصنوعی باعث شده است مدیران صنعت و کارکنان شرکت‌های فعال در حوزه هوش مصنوعی هشدارهای جدی درباره احتمال بروز خطرات شدید، حتی خطرات وجودی، در صورت ادامه توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
ماه گذشته، جیکوب کوکسون، پژوهشگر سابق آنتروپیک، پس از اعلام نگرانی درباره اینکه هوش مصنوعی می‌تواند تا پایان این دهه به انقراض انسان‌ها منجر شود، خبرساز شد و گفت به همین دلیل از شغل خود کناره‌گیری کرده است.
با این حال، برخی کارشناسان چنین سطحی از نگرانی را قبول ندارند و با سناریوی آخرالزمانی مخالفت کرده‌اند. آن‌ها استدلال می‌کنند که مدل‌ها برای جابه‌جایی کارآمد بیش از حد بزرگ هستند و نمی‌توانند به اندازه کافی به توان محاسباتی دسترسی پیدا کنند تا به‌طور مستقل فعالیت کنند.
در حالی که برخی از این کارشناسان گفته‌اند آنتروپیک ظاهراً در حال گرفتار شدن در «اغراق فروشنده» است، گروهی دیگر ترجیح داده‌اند هشدار این شرکت درباره خودتکثیری هوش مصنوعی را بیشتر یک فرضیه بدانند تا پیش‌بینی قطعی.
آنتروپیک چه چیزهای دیگری گفته است؟
آنتروپیک بر اساس آزمایش‌های خود اعلام کرده است که مدل‌های هوش مصنوعی متوسط با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون نیز می‌توانند بسیاری از وظایف جداگانه مورد نیاز برای خودتکثیری را انجام دهند، هرچند در تکمیل کل این فرایند به‌صورت قابل اعتماد با مشکل روبه‌رو هستند.
این مدل‌ها سپس، در یک سناریوی فرضی، می‌توانند با تصاحب دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان محاسباتی مورد نیاز خود را فراهم کنند. این شرکت گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه مرکزی برای قطع کردن وجود ندارد.»
برای بررسی اینکه آیا مدل‌های هوش مصنوعی می‌توانند به این شکل خود را تکثیر کنند، آنتروپیک چندین آزمایش انجام داد. در یکی از این آزمایش‌ها، یک مدل کوچک گوگل با نام Gemma4-26B-A4B روی شبکه‌ای متشکل از ۱۵ دستگاه اندرویدی تلویزیونی از برندهای غیرمعروف اجرا شد. این آزمایش نشان داد که مدل‌ها توانستند در یک شبکه آزمایشی ساده تکثیر شوند.
آنتروپیک گفت: «در عمل، یک کرم هوش مصنوعی لزوماً تنها شامل یک مدل یا یک راهبرد نخواهد بود. گروهی از مدل‌های مختلف که روی انواع متفاوتی از سخت‌افزارها و با استفاده از روش‌های گوناگون تکثیر مستقر شوند، ممکن است نمایانگر سناریوی حمله بدترین حالت واقع‌بینانه‌تری باشند.»
این شرکت افزود: «به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های ما، انتظار داریم آینده‌ای شکل بگیرد که مملو از عامل‌هایی باشد که روی انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.» آنتروپیک همچنین گفت: «ظهور تکثیرکننده‌های آهسته می‌تواند نشانه‌ای از ظهور نمونه‌های تهاجمی‌تر و سریع‌تر باشد که قادرند به ماشین‌های مقاوم‌تر نفوذ کنند یا در سرقت مؤثر کلیدهای API موفق باشند.»