آیا مدل‌های هوش مصنوعی به‌زودی می‌توانند خود را در دستگاه‌های هوشمند تکثیر کنند؟ هشدار آنتروپیک درباره افزایش خطرات
مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر خود در دستگاه‌های متصل به اینترنت، بدون نیاز به دسترسی به مراکز داده، فاصله داشته باشند. شرکت آنتروپیک روز دوشنبه با اعلام این موضوع، درباره یک مرز جدید بالقوه در حوزه امنیت سایبری هشدار داد.
این شرکت هوش مصنوعی اعلام کرد آزمایش‌هایش نشان داده‌اند که مدل‌های نسبتاً کوچک هم‌اکنون می‌توانند بسیاری از مراحل مورد نیاز برای شناسایی دستگاه‌های آسیب‌پذیر، کپی کردن خود روی آن‌ها و ادامه انتشار بدون دخالت انسان را انجام دهند. با این حال، این مدل‌ها هنوز در شرایط آزمایشی واقع‌گرایانه برای تکمیل مستقل تمام این فرایند با مشکل روبه‌رو هستند.
این یافته‌ها نشان‌دهنده یک چالش امنیتی بالقوه است؛ زیرا سیستم‌های هوش مصنوعی توانایی بیشتری برای انجام خودکار وظایف پیچیده و سوءاستفاده از ضعف‌های موجود در شبکه‌های متصل پیدا می‌کنند.
چگونه مدل‌های هوش مصنوعی می‌توانند فراتر از مراکز داده گسترش یابند
آنتروپیک بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های متصل به اینترنتِ آسیب‌پذیر را پیدا کنند، نسخه‌هایی از خود را روی این سیستم‌ها منتقل کنند و بدون کمک انسان به تکثیر ادامه دهند یا نه.
این پژوهش بر دستگاه‌های تجاری اینترنت اشیا (IoT)، از جمله لوازم هوشمند خانگی، جعبه‌های تلویزیون اندرویدی و دیگر ابزارهای متصل تمرکز داشت. چنین دستگاه‌هایی ممکن است حفاظت‌های امنیتی محدودی داشته باشند و به اهداف بالقوه‌ای برای حملات سایبری تبدیل شوند.
آنتروپیک دریافت مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر می‌توانند مراحل جداگانه‌ای از فرایند تکثیر را انجام دهند، اما در اجرای کامل زنجیره عملیات از ابتدا تا انتها با دشواری مواجه هستند.
در آزمایش‌های ساده‌سازی‌شده‌ای که برخی موانع امنیتی حذف شده بود، این شرکت دریافت که مدل GLM-5.2 و مدل‌های قوی‌تر توانستند تکثیر کامل از ابتدا تا انتها را انجام دهند. این نتایج نشان می‌دهد با بهبود سیستم‌های هوش مصنوعی، این قابلیت ممکن است عملی‌تر شود؛ هرچند موفقیت در شرایط ساده‌شده به معنای امکان‌پذیر بودن تکثیر خودکار در دستگاه‌های واقعی و گسترده نیست.
چرا مهار هوش مصنوعی خودتکثیرشونده دشوار خواهد بود
برخلاف بدافزارهای معمولی که معمولاً از دستورالعمل‌های از پیش نوشته‌شده پیروی می‌کنند، یک سیستم مبتنی بر هوش مصنوعی ممکن است بتواند هنگام مواجهه با دستگاه‌های ناشناخته یا موانع پیش‌بینی‌نشده، رویکرد خود را تغییر دهد.
آنتروپیک هشدار داد که یک مدل خودتکثیرشونده می‌تواند در منابع محاسباتی توزیع‌شده گسترش یابد و به یک مرکز داده یا زیرساخت مرکزی وابسته نباشد. این موضوع می‌تواند شناسایی و خاموش کردن همه نسخه‌های آن را دشوارتر کند.
نگرانی اصلی این است که دستگاه‌های آلوده بتوانند ظرفیت پردازشی لازم برای ایجاد نسخه‌های بیشتر را فراهم کنند و به یک سیستم اجازه دهند حتی پس از از کار افتادن میزبان اولیه نیز به فعالیت خود ادامه دهد.
با این حال، این پژوهش ثابت نمی‌کند که چنین سیستم‌هایی هم‌اکنون در دنیای واقعی به‌صورت خودکار در حال انتشار هستند. تفاوت مهمی میان نشان دادن قابلیت‌های جداگانه در محیط آزمایشگاهی و اجرای موفق یک سیستم خودتکثیرشونده در شبکه‌های واقعی وجود دارد.
آیا هوش مصنوعی خودتکثیرشونده می‌تواند امسال به واقعیت تبدیل شود؟
آنتروپیک هشدار داد اگر مدل‌های کوچک‌تر هوش مصنوعی با همان سرعت تاریخی بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ توانایی تکثیر خودکار را به دست آورند. مدل‌های کوچک‌تری که بتوانند از طریق انتقال وزن‌های مدل خود را تکثیر کنند، ممکن است اندکی پس از آن ظاهر شوند.
این شرکت همچنین تأکید کرد که چنین سیستم‌هایی احتمالاً با سرعت نسبتاً پایینی گسترش خواهند یافت و به جای تصاحب فوری شبکه‌های بزرگ محاسباتی، از منابع پردازشی در دسترس اما با امنیت ناکافی استفاده خواهند کرد.
این زمان‌بندی تنها یک پیش‌بینی بر اساس روندهای مشاهده‌شده در بهبود مدل‌هاست و یک ضرب‌الاجل قطعی محسوب نمی‌شود. اینکه این قابلیت‌ها در عمل ظهور کنند یا نه، به پیشرفت عملکرد مدل‌ها، دسترسی به دستگاه‌های آسیب‌پذیر و میزان اثربخشی حفاظت‌های امنیتی بستگی خواهد داشت.
چه چیزهایی باید تغییر کند؟
آنتروپیک اعلام کرد دستگاه‌های متصل و زیرساخت‌های محاسباتی باید تقویت شوند تا انتشار سیستم‌های هوش مصنوعی خودکار دشوارتر شود.
این اقدامات شامل افزایش امنیت لوازم متصل به اینترنت، محدود کردن نصب نرم‌افزارهای غیرمجاز، نظارت بر فعالیت‌های غیرمعمول شبکه و اطمینان از دریافت به‌روزرسانی‌های امنیتی توسط دستگاه‌هاست.
این یافته‌ها همچنین پرسش‌های گسترده‌تری درباره نحوه ارزیابی سیستم‌های هوش مصنوعی که قادر به فعالیت مستقل در محیط‌های دیجیتال هستند مطرح می‌کند. با افزایش توانایی مدل‌ها در پیمایش سیستم‌های ناشناخته و انجام وظایف چندمرحله‌ای، آزمایش‌های امنیتی ممکن است نیاز داشته باشند ترکیب قابلیت‌هایی را بررسی کنند که هرکدام به‌تنهایی قابل مدیریت هستند اما در کنار هم می‌توانند خطرناک‌تر شوند.
نگرانی فوری این نیست که مدل‌های هوش مصنوعی تاکنون از مراکز داده خارج شده و به‌طور غیرقابل‌کنترل شروع به تکثیر کرده‌اند. بلکه آزمایش‌های آنتروپیک نشان می‌دهد قابلیتی که زمانی دور از دسترس تصور می‌شد، ممکن است زودتر از انتظار از نظر فنی امکان‌پذیر شود و اهمیت اقدامات پیشگیرانه امنیتی را افزایش دهد.
با اطلاعاتی از رویترز.