پژوهشگران آنتروپیک توانایی تکثیر خودکار هوش مصنوعی در دستگاه‌های اینترنت اشیا را نشان دادند
بر اساس گزارش اخیر وب‌سایت Security Affairs، مدل‌های کوچک هوش مصنوعی به سطحی از توانایی نزدیک شده‌اند که می‌توانند بدون دخالت انسان، نسخه‌هایی از خود را در شبکه‌ای از دستگاه‌های ارزان‌قیمت اینترنت اشیا (IoT) که امنیت ضعیفی دارند، تکثیر کنند.
پژوهشگران شرکت آنتروپیک (Anthropic) نشان داده‌اند که حتی مدل‌های هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر نیز می‌توانند مراحل لازم برای تکثیر خودکار را انجام دهند. این مراحل شامل شناسایی دستگاه‌های هدف، دستیابی به آن‌ها و راه‌اندازی نسخه‌ای از مدل روی سخت‌افزار جدید است. اگرچه مدل‌های کنونی هنوز برای اجرای تمام این مراحل بدون خطا با مشکل روبه‌رو هستند، یکی از مدل‌ها به نام GLM-5.2 توانسته است در چندین نوبت آزمایش، به‌طور قابل‌اعتماد به تمام گره‌های شبکه مورد آزمایش گسترش پیدا کند.
نتایج این پژوهش نشان می‌دهد که ممکن است به‌زودی شبکه‌های بات (بات‌نت) مبتنی بر هوش مصنوعی ظهور کنند؛ شبکه‌هایی که برخلاف بات‌نت‌های سنتی مانند Mirai و Kimwolf، برای گسترش فعالیت خود به نوع خاصی از دستگاه یا آسیب‌پذیری مشخصی وابسته نیستند و می‌توانند با سخت‌افزارهای گوناگون سازگار شوند و در میان آن‌ها گسترش یابند.
گسترش آهسته و تدریجی این شبکه‌ها که پژوهشگران آن را به نحوه رشد و حرکت کپک‌های مخاطی تشبیه کرده‌اند، می‌تواند شناسایی آن‌ها را دشوار کند. بااین‌حال، تشخیص رفتارهای غیرعادی در شبکه و قرنطینه کردن مشترکانی که دستگاه‌هایشان آلوده شده است، همچنان از راهکارهای احتمالی مقابله با این تهدید به شمار می‌روند.
پژوهشگران همچنین مشاهده کرده‌اند که مدل‌های هوش مصنوعی می‌توانند هم‌زمان با گسترش در شبکه، یاد بگیرند و خود را با شرایط جدید سازگار کنند. این توانایی باعث می‌شود میزان موفقیت آن‌ها در نسل‌های پیاپی تکثیر افزایش یابد.
اگرچه هنوز سامانه‌ای از هوش مصنوعی که کاملاً از کنترل خارج شده باشد و بتواند به‌طور مستقل خود را تکثیر کند، مشاهده نشده است، توانایی روزافزون عامل‌های هوش مصنوعی در اجرای مراحل تکثیر و انتقال سازگاری‌های به‌دست‌آمده به نسل‌های بعدی، از تهدیدی رو به افزایش حکایت دارد.
منبع: Security Affairs