آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی توانایی خودتکثیری در دستگاه‌های هوشمند را پیدا کنند
آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند بدون دخالت انسان میان دستگاه‌های متصل به اینترنت گسترش پیدا کنند. این هشدار پس از آزمایش‌هایی درباره توانایی تکثیر هوش مصنوعی و خطرات امنیتی آن در دستگاه‌های هوشمند رایج مطرح شده است.
پژوهش آنتروپیک نشان می‌دهد مدل‌های هوش مصنوعی به توانایی خودتکثیری نزدیک شده‌اند
بر اساس پژوهش آنتروپیک، مدل‌های کوچک‌تر هوش مصنوعی ممکن است ظرف چند ماه آینده توانایی کپی‌کردن خود در میان دستگاه‌های متصل را به دست آورند. پژوهشگران در این آزمایش‌ها بررسی کردند که آیا این سامانه‌ها می‌توانند سخت‌افزارهای آسیب‌پذیر را شناسایی کنند، نرم‌افزار نصب کنند و بدون دخالت انسان فعالیت خود را ادامه دهند.
مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر در جریان آزمایش‌ها چندین مرحله موردنیاز برای تکثیر را با موفقیت انجام دادند، اما نتوانستند کل فرایند را کامل کنند؛ زیرا برخی وظایف به سطح بالاتری از تصمیم‌گیری نیاز داشت.
مدل‌های GLM-5.2 و مدل‌های هوش مصنوعی قدرتمندتر توانستند در شرایط آزمایشی ساده‌شده کل فرایند تکثیر را با موفقیت انجام دهند. آنتروپیک با توجه به روند کنونی توسعه این فناوری انتظار دارد مدل‌های کوچک‌تر تا پایان سال ۲۰۲۶ به توانایی‌های مشابهی دست پیدا کنند.
این نتایج در ادامه تمرکز بیشتر این شرکت بر پژوهش‌های هوش مصنوعی منتشر شده است. آنتروپیک اخیراً ۱۵۰ میلیون دلار به مأموریت Genesis آمریکا اختصاص داد تا از استفاده گسترده‌تر هوش مصنوعی در پژوهش‌های علمی حمایت کند.
اجرای مدل‌های هوش مصنوعی روی ۱۵ دستگاه Android TV
در جریان آزمایش‌ها، پژوهشگران موفق شدند یک مدل هوش مصنوعی را روی ۱۵ دستگاه Android TV ارزان‌قیمت اجرا کنند، بدون آنکه از مراکز داده سنتی استفاده شود. هزینه هر دستگاه حدود ۵۵ دلار بود و مجموع این سخت‌افزارها از مدل Gemma4-26B-A4B پشتیبانی می‌کرد.
در آزمایش دیگری مشخص شد یک مدل ۹ میلیارد پارامتری توانست روی هشت مورد از ۹ نوع سخت‌افزار مختلف اجرا شود. این آزمایش نشان داد سامانه‌های کوچک‌تر هوش مصنوعی می‌توانند حتی با توان پردازشی محدود روی دستگاه‌های معمولی‌تر نیز فعالیت کنند.
تلویزیون‌های هوشمند، یخچال‌ها، فرهای آشپزخانه و ماشین‌های چمن‌زن رباتیک از جمله اهداف احتمالی معرفی شدند؛ زیرا بسیاری از این دستگاه‌ها امکانات امنیتی بسیار محدودی دارند یا اصلاً از چنین قابلیت‌هایی برخوردار نیستند. این دستگاه‌ها می‌توانند منابع پردازشی لازم را برای سامانه‌های هوش مصنوعی که تلاش می‌کنند در شبکه‌های متصل گسترش پیدا کنند، فراهم کنند.
با این حال، افزایش اخیر استفاده از نرم‌افزارهای خودکار به بازارهای مالی، از جمله عامل‌های هوش مصنوعی معامله‌گر رمزارزها نیز راه یافته است. این نوع سامانه‌های معاملاتی مانند سناریوهای بررسی‌شده توسط آنتروپیک، به شکل کنترل‌نشده و بدون مقررات تکثیر نمی‌شوند.
هشدار آنتروپیک درباره دشواری متوقف‌کردن کرم‌های هوش مصنوعی
آنتروپیک اعلام کرد سامانه‌های هوش مصنوعی خودتکثیرشونده برای تکثیر شدن به یک سرور مرکزی نیاز ندارند و به همین دلیل خاموش‌کردن آن‌ها دشوارتر خواهد بود. این سامانه‌ها علاوه بر رفتارهای مشابه بدافزارهای سنتی، ممکن است هنگام مشاهده یک دستگاه ناشناخته، راهبردهای خود را تغییر دهند.
نسخه‌های اولیه چنین سامانه‌هایی احتمالاً برای دو برابر کردن تعداد دستگاه‌ها در مجموعه‌ای از سخت‌افزارهای قابل دسترس متقابل، به چند روز زمان نیاز خواهند داشت. با این حال، ممکن است بتوانند روی چندین دستگاه به‌طور هم‌زمان و بدون دخالت انسان فعالیت کنند.
آنتروپیک توصیه کرد امنیت دستگاه‌ها تقویت شود و نظارت بیشتری بر شبکه‌های متصل انجام گیرد. این شرکت همچنین تأکید کرد هیچ‌یک از مدل‌های کوچک آزمایش‌شده تاکنون نتوانسته‌اند در دستگاه‌های هوشمند واقعی و بدون محدودیت، توانایی خودتکثیری داشته باشند.