آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی در دستگاه‌های اینترنت اشیا خودتکثیر شوند
مدل کوچک هوش مصنوعی جدیدی که در حال آزمایش است، می‌تواند روزی در دستگاه‌های متصل به اینترنت مانند فرهای هوشمند آشپزخانه اجرا شود؛ دستگاه‌هایی که برای پختن غذا ساخته شده‌اند، اما شاید در آینده بتوانند میزبان قابلیتی بسیار نگران‌کننده‌تر باشند.
پژوهش جدید آنتروپیک نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی قادر باشند بدون دسترسی به مراکز داده، خود را در میان دستگاه‌های متصل به اینترنت کپی کنند. اگر این پیش‌بینی محقق شود، یکی از فرض‌های اصلی ایمنی هوش مصنوعی ــ اینکه مدل‌های قدرتمند در مزارع سروری بزرگ و قابل‌کنترل فعالیت می‌کنند ــ دیگر چندان قابل اتکا نخواهد بود.
پژوهشگران این توانایی را «تکثیر و سازگاری خودکار» یا ARA می‌نامند. آنتروپیک در تحقیقات مستمر خود درباره خطرات از دست رفتن کنترل، عملکرد ARA را یکی از عوامل کلیدی ارزیابی ریسک می‌داند.
یافته‌های پژوهش
این تحقیق بر مدل‌هایی با بازه ۹ تا ۳۰ میلیارد پارامتر تمرکز دارد. پارامترها را می‌توان به‌طور تقریبی تنظیمات داخلی یک مدل دانست که در فرایند آموزش تغییر می‌کنند و مدل‌های این اندازه معمولاً کوچک محسوب می‌شوند.
یک مدل ۹ میلیارد پارامتری توانست روی ۸ مورد از ۹ نوع سخت‌افزاری که تیم پژوهشی آزمایش کرده بود، فرایند استنتاج را اجرا کند.
مدل‌هایی با حداکثر ۳۰ میلیارد پارامتر توانستند مجموعه‌ای از وظایف جداگانه مرتبط با تکثیر را انجام دهند. مانع اصلی آن‌ها فرایند کامل و سرتاسری بود؛ یعنی اتصال همه مراحل به یک زنجیره واحد برای ایجاد یک نسخه کامل و راه‌اندازی آن.
این محدودیت همیشگی نیست. نسخه‌های قدرتمندتر مانند GLM-5.2 در ارزیابی‌های ساده و کنترل‌شده توانسته‌اند تکثیر کامل سرتاسری را نشان دهند.
جدول زمانی و اهداف احتمالی
بر اساس روندهای فعلی پیشرفت، این پژوهش پیش‌بینی می‌کند که مدل‌های کوچک ممکن است تا اواخر سال ۲۰۲۶ یا اندکی پس از آن، به توانایی عملی خودتکثیری روی دستگاه‌های تجاری اینترنت اشیا برسند.
نمونه‌هایی از اهداف احتمالی شامل فرهای هوشمند و گیرنده‌های اندرویدی تلویزیون با برندهای کمتر شناخته‌شده هستند. این پژوهش می‌گوید دامنه دسترسی یک مدل تکثیرشونده می‌تواند طی چند روز دو برابر شود.
نگرانی اصلی آنتروپیک مسئله مهار و کنترل است. این تکثیرکننده‌ها مستقل از منابع ابری اجرا خواهند شد و در نتیجه مدافعان یک نقطه مرکزی برای متوقف کردن آن‌ها نخواهند داشت. همچنین آن‌ها می‌توانند خود را با دستگاه‌های ناشناخته سازگار کنند؛ قابلیتی که به گفته پژوهش، آن‌ها را از بدافزارهای معمولی متمایز می‌کند.
پیشینه: نخستین هشدار نیست
یافته‌های آنتروپیک در کنار تحقیقات دیگری قرار می‌گیرد که به نتیجه‌ای مشابه اشاره دارند. یک پژوهش اخیر از دانشگاه تورنتو، یک کرم هوش مصنوعی خودتکثیرشونده را ساخت که با استفاده از یک مدل زبانی بزرگ متن‌باز محلی کار می‌کرد.
تیم تورنتو این کرم را روی شبکه‌ای متشکل از ۳۳ میزبان اینترنت اشیا آزمایش کرد. این سامانه توانست طی هفت روز به نرخ انتشار حدود ۶۲ درصد برسد.
آزمایش‌های قبلی نیز نشان داده بودند که عملیات هماهنگ‌شده توسط هوش مصنوعی می‌تواند در محیط‌های آزمایشی به تولید بدافزارهای خودتکثیرشونده منجر شود. نتایج جدید همچنین با یافته‌های پیشین آنتروپیک درباره این موضوع همخوانی دارد که رفتار عامل‌محور هوش مصنوعی می‌تواند باعث اختلال در اکوسیستم‌های دیجیتال شود.
این موضوع چه معنایی دارد
تناقض نگران‌کننده این است که همان ویژگی‌هایی که مدل‌های کوچک را از نظر تجاری جذاب می‌کنند، عامل ایجاد این خطر نیز هستند. اجرای هوش مصنوعی به‌صورت محلی روی دستگاه‌های لبه‌ای می‌تواند هزینه کمتر، حریم خصوصی بهتر و وابستگی کمتر به فضای ابری را به همراه داشته باشد.
خود پژوهش این روند را پدیده‌ای دووجهی توصیف می‌کند: از یک سو می‌تواند کاربردهای تازه‌ای در اینترنت اشیا و رایانش لبه‌ای ایجاد کند و از سوی دیگر ممکن است باعث افزایش نظارت‌های قانونی و احتیاط سرمایه‌گذاران شود.
با این حال، محدودیت‌های مشخصی در آنچه تاکنون نشان داده شده وجود دارد. تکثیر کامل تنها در ارزیابی‌های ساده مشاهده شده و تاریخ اواخر ۲۰۲۶ پیش‌بینی‌ای بر پایه روندهای فعلی است، نه رویدادی که تاکنون رخ داده باشد.
افشا: این مقاله توسط دیگو آلماادا لوپز ویرایش شده است. برای اطلاعات بیشتر درباره نحوه تولید و بررسی محتوا، به سیاست تحریریه مراجعه کنید.