آنتروپیک هشدار داد هوش مصنوعی به‌زودی خود را تکثیر کرده و فراتر از مراکز داده گسترش می‌یابد
نویسنده: جاناتان بنتون
انتشار: ۱۳ اکتبر ۲۰۲۶ - ۱۶:۰۱ به وقت گرینویچ+۲
این شرکت می‌گوید مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی کپی‌کردن و انتشار خود روی دستگاه‌های اینترنت اشیا مانند فرهای هوشمند و تلویزیون‌ها فاصله داشته باشند؛ قابلیتی که در صورت تصمیم آن‌ها برای انجام حملات سایبری، متوقف‌کردنشان را بسیار دشوار می‌کند.
شرکت آنتروپیک این هفته اعلام کرد که مدل‌های کوچک هوش مصنوعی تنها چند ماه با توانایی تکثیر خود روی دستگاه‌های متصل به اینترنت مانند فرهای هوشمند و تلویزیون‌ها فاصله دارند.
این موضوع اهمیت زیادی دارد، زیرا مدل‌های کنونی هوش مصنوعی در مراکز داده فعالیت می‌کنند؛ جایی که شرکت‌های مالک آن‌ها در صورت بروز مشکل می‌توانند سیستم را خاموش کنند.
اما مدلی که در هزاران ابزار کم‌امنیت در خانه‌ها و محل‌های کار پراکنده شود، دیگر چنین کلید خاموشی نخواهد داشت. متوقف‌کردن آن به شناسایی و پاک‌سازی تک‌تک دستگاه‌های آلوده نیاز خواهد داشت؛ کاری که در صورت روی‌آوردن آن به حملات سایبری، مهار آن را بسیار دشوار می‌کند.
این اعلامیه در سالی منتشر شده است که طی آن، مدل‌های پیشرفته هوش مصنوعی و عامل‌های آن‌ها بارها توانسته‌اند از سازوکارهای ایمنی یا محدودیت‌های حفاظتی عبور کنند و حملاتی را علیه شرکت‌های رقیب و نهادهای دولتی در سراسر جهان انجام دهند.
آنتروپیک هشدار داده است که تکثیر خودکار هوش مصنوعی تنها یکی از راه‌های ممکن برای انتشار یک هوش مصنوعی سرکش است. این شرکت می‌گوید چنین سامانه‌ای می‌تواند به شکل «یک مدل سایبری قدرتمند که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی که افراد را برای دریافت اعتبار محاسباتی فریب می‌دهد» ظاهر شود.
این شرکت تأکید کرده است که نمی‌تواند با اطمینان بگوید تکثیر مستقل هوش مصنوعی دقیقاً چه شکلی خواهد داشت.
به گفته آنتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از مراحل لازم برای تکثیر خود را انجام دهند، اما هنگام کنار هم قراردادن تمام این مراحل از ابتدا تا انتها هنوز دچار خطا می‌شوند.
با این حال، اگر مدل‌های کوچک با همان سرعت تاریخی کنونی بهبود پیدا کنند، تا پایان سال قادر خواهند بود به این توانایی دست یابند.
آنتروپیک می‌گوید تهدید سایبری ناشی از هوش مصنوعی خودتکثیرشونده، پیامدی ناخواسته از پیشرفت‌های دیگر در این حوزه است.
این شرکت در بیانیه‌ای اعلام کرد: «توانایی‌هایی که مدل‌های هوش مصنوعی را به عامل‌های قدرتمند برنامه‌نویسی تبدیل می‌کنند، به وظایف سایبری، از جمله تکثیر خودکار، نیز تعمیم پیدا می‌کنند.»
کدی که خود را از یک رایانه به رایانه دیگر کپی می‌کند، پدیده جدیدی نیست. برخی از مخرب‌ترین حملات سایبری تاریخ به برنامه‌هایی متکی بوده‌اند که با همین روش خود را منتشر می‌کنند و به «کرم» (worm) معروف هستند.
حمله استاکس‌نت در سال ۲۰۱۰ از یک کرم پیچیده استفاده کرد که به‌طور گسترده باور بر این است که توسط آمریکا و اسرائیل ساخته شده بود تا سانتریفیوژهای تأسیسات غنی‌سازی اورانیوم نطنز در ایران را خراب کند.
در سال ۲۰۱۷ نیز حمله باج‌افزاری واناکرای کاربران سراسر جهان را از دسترسی به فایل‌هایشان محروم کرد و در ازای بازگرداندن دسترسی، درخواست پرداخت با بیت‌کوین داشت.
با این حال، برخلاف این کرم‌ها، مدل‌ها و عامل‌های هوش مصنوعی خواهند توانست دستگاه‌های ناشناخته را به‌طور مستقل شناسایی و درک کنند. این قابلیت به آن‌ها اجازه می‌دهد نه‌تنها از رایانه‌ای به رایانه دیگر، بلکه از رایانه‌ها به دیگر دستگاه‌ها نیز منتقل شوند.
آنتروپیک آینده‌ای را پیش‌بینی می‌کند که در آن «مملو از عامل‌هایی خواهد بود که روی انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند».