آنتروپیک هشدار داد مدل‌های کوچک‌تر هوش مصنوعی ممکن است به‌زودی خود را تکثیر کنند

شرکت آنتروپیک روز دوشنبه هشدار داد که مدل‌های هوش مصنوعی با توانایی‌های روزافزون ممکن است تنها چند ماه با امکان تکثیر خودکار در میان دستگاه‌های متصل به اینترنت فاصله داشته باشند؛ قابلیتی که می‌تواند به ایجاد بات‌نت‌های مبتنی بر هوش مصنوعی منجر شود که توانایی دور زدن تلاش‌ها برای متوقف‌سازی خود و یافتن منابع محاسباتی بیشتر را داشته باشند.

این شرکت اعلام کرد آزمایش‌ها نشان داده‌اند که عامل‌های هوش مصنوعی می‌توانند توان پردازشی دستگاه‌های متصل ارزان‌قیمت را با یکدیگر ترکیب کنند و در یک شبکه آزمایشی ساده‌شده، خود را تکثیر کنند.

آنتروپیک گفت مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، در حال حاضر بسیاری از وظایف جداگانه موردنیاز برای تکثیر خودکار را انجام می‌دهند، هرچند هنوز در تکمیل کل این فرایند به‌صورت قابل اعتماد با مشکل روبه‌رو هستند.

در آزمایش‌هایی که برخی تدابیر امنیتی در آن‌ها حذف شده بود، مدل GLM-5.2 و مدل‌های قوی‌تر توانایی تکثیر کامل از ابتدا تا انتها را نشان دادند. آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر خودکار برسند.

این شرکت هشدار داد چنین کرم‌های هوش مصنوعی ممکن است در ابتدا روی دستگاه‌های کم‌توان به‌آرامی گسترش یابند، اما با آلوده کردن ماشین‌های بیشتر، توان رشد پیدا کنند. سیستم‌های آینده همچنین ممکن است منابع محاسباتی قدرتمندتر، از جمله مراکز داده، را هدف قرار دهند؛ هرچند آنتروپیک تأکید کرد آزمایش‌های آن‌ها تکثیر خودکار از طریق مراکز داده تجاری را نشان نداده است.