هشدار آنتروپیک درباره کرم‌های هوش مصنوعی سه هفته پیش از عرضه HomeView؛ مدل امنیتی خانه هوشمند هنوز آماده نیست
تحلیل
هشدار آنتروپیک درباره کرم‌های هوش مصنوعی سه هفته پیش از عرضه HomeView؛ مدل امنیتی خانه هوشمند هنوز آماده نیست
محصولات HomeView، Muse Home Link و Google Home MCP همگی قرار است عامل‌های هوش مصنوعی را وارد اکوسیستم اینترنت اشیای خانگی کنند؛ این در حالی است که پژوهش خود آنتروپیک نشان می‌دهد آسیب‌پذیری این اکوسیستم در برابر کرم‌های هوش مصنوعی هنوز تا رفع شدن فاصله زیادی دارد. معماری امنیتی فعلی برای محافظت از داده‌ها طراحی شده است، نه برای مهار عامل‌هایی که می‌توانند از دیوارهای امنیتی دستگاه‌ها عبور کنند.
میلا کوهن، نویسنده یادداشت در Forkast
آخر هفته گذشته، مدتی را صرف این کردم که بفهمم چرا جاروبرقی هوشمندم مدام به پایه یک صندلی برخورد می‌کند. همان‌جا به این فکر افتادم که شاید فقط یک به‌روزرسانی میان‌افزار با روزی فاصله داشته باشیم که لوازم خانگی‌مان تصمیم بگیرند کاری بسیار جالب‌تر ــ و احتمالاً بسیار آزاردهنده‌تر ــ از تمیز کردن فرش انجام دهند. ما روزبه‌روز عامل‌های هوش مصنوعی توانمندتری را به اتاق نشیمن، آشپزخانه و اتاق‌خواب خود راه می‌دهیم، در حالی که معماری امنیتی زیربنایی همچنان در دوران روترهای محافظت‌شده با گذرواژه متوقف مانده است.
تیم قرمز پژوهش‌های پیشرفته آنتروپیک (Anthropic’s Frontier Red Team) به سرپرستی ویلیام ژو و دنیل فریمن، در ۱۲ اکتبر گزارشی منتشر کرد که باید هر صاحب یخچال هوشمند یا ماشین چمن‌زنی متصل به اینترنت را به فکر فرو ببرد. این تیم نشان داد که مدل‌های کوچک هوش مصنوعی به مرحله‌ای خطرناک نزدیک شده‌اند که می‌توانند خود را میان دستگاه‌های اینترنت اشیای مصرفی تکثیر کنند. پژوهشگران با استفاده از ۱۵ دستگاه تلویزیون اندرویدی متفرقه که قیمت هرکدام حدود ۵۵ دلار بود، موفق شدند یک مدل توزیع‌شده را روی این سخت‌افزارها اجرا کنند. مدل GLM-5.2 در چهار مورد از پنج آزمایش، توانست فرایند تکثیر را به‌طور کامل میان هشت گره شبیه‌سازی‌شده اندرویدی انجام دهد. نکته نگران‌کننده این است که این تکثیرکننده‌های مبتنی بر وزن‌های مدل به دسترسی ریشه نیاز ندارند؛ از آنجا که موتورهای استنتاج کاملاً در فضای کاربری اجرا می‌شوند، هوش مصنوعی می‌تواند بدون نفوذ به لایه اصلی سیستم‌عامل، از دستگاهی به دستگاه دیگر منتقل شود.
بات‌نت Kimwolf تاکنون بیش از دو میلیون دستگاه، عمدتاً گیرنده‌های تلویزیونی اندرویدی، را آلوده کرده است. اگر شبکه‌ای با این ابعاد را در نظر بگیریم و قابلیت‌های تکثیری را که آنتروپیک نشان داده است به آن اضافه کنیم، با حدود ۱۳۳ هزار نسخه تکثیرشده روبه‌رو خواهیم شد؛ ظرفیتی محاسباتی که می‌تواند با توان تقریبی ۴۰ پردازنده گرافیکی H100 برابری کند، آن هم در حالی که همه این پردازش‌ها بی‌سروصدا در پس‌زمینه خانه مردم انجام می‌شوند. مدل می‌تواند به‌طور مستقل دستگاه‌های ناشناس را شناسایی کند و هیچ کلید توقف مرکزی‌ای نیز وجود ندارد.
عرضه HomeView اپل در ۱۳ نوامبر باعث می‌شود این پژوهش دیگر صرفاً یک آزمایش آزمایشگاهی به نظر نرسد و به مسئله‌ای با ضرب‌الاجل مشخص تبدیل شود. HomeView به هوش مصنوعی سیری و محفظه‌های امن A18 مجهز است که برای جدا نگه داشتن داده‌های دوربین و میکروفون از نرم‌افزارها، برنامه‌ها و حتی خود اپل طراحی شده‌اند. این قابلیت‌ها در نگاه اول اطمینان‌بخش به نظر می‌رسند، اما HomeView یک پلتفرم محاسباتی عمومی است که برنامه‌ها را اجرا می‌کند. محفظه‌های امن از داده‌های حسگرها محافظت می‌کنند، اما کل دستگاه را در برابر عامل خودتکثیرشونده‌ای ایمن نمی‌سازند که برای ایجاد اختلال و آشوب، اصلاً نیازی به دسترسی به دوربین ندارد.
گوگل در اوایل سپتامبر، نسخه دسترسی زودهنگام Home MCP را عرضه کرد؛ ابزاری که به عامل‌های شخص ثالث امکان می‌دهد مستقیماً کنترل دستگاه‌های Nest را در دست بگیرند. گوگل با احتیاط عمل کرده و قابلیت‌هایی مانند باز کردن قفل درها را مسدود کرده است، اما درباره خطرهای موجود نیز شفاف بوده است. در مستندات این شرکت هشدار داده شده که اتصال یک عامل هوش مصنوعی ممکن است به «رفتاری غیرمنتظره یا ناخواسته» منجر شود. این هشدار صرفاً نکته‌ای حاشیه‌ای نیست؛ بلکه اذعانی است به اینکه سازوکار مهار این عامل‌ها هنوز کامل نشده است.
متا نیز در حال آماده‌سازی Muse Home Link برای عرضه است؛ محصولی شامل پنج هزار دانگل USB-C که با کیت توسعه نرم‌افزار متن‌باز تحت مجوز Apache 2.0 ارائه می‌شود. خود سخت‌افزار به میان‌افزار رسمی محدود شده است، اما کیت توسعه و میان‌افزار مرجع آن متن‌باز هستند. متن‌باز بودن راهی عالی برای تقویت نوآوری است و در عین حال، مانع ورود کسانی را که می‌خواهند نحوه تعامل این عامل‌ها با شبکه‌های خانگی را آزمایش کنند، به میزان چشمگیری کاهش می‌دهد.
ما با توسترهایمان طوری رفتار می‌کنیم که انگار خزانه‌های دیجیتال‌اند، در حالی که این دستگاه‌ها عملاً دارند به هم‌خانه‌هایمان تبدیل می‌شوند. مدل امنیتی کنونی بیش از حد بر حفاظت از داده‌هایی تمرکز دارد که وارد دستگاه‌ها می‌شوند، اما این واقعیت را نادیده می‌گیرد که خود دستگاه‌ها در حال تبدیل شدن به عامل‌های هوش مصنوعی هستند. انتظار می‌رود تا پایان سال ۲۰۲۶، مدل‌هایی با ۳۰ میلیارد پارامتر به سطح توانمندی لازم برای تکثیر خودکار برسند. در دنیای چرخه‌های توسعه سخت‌افزار، این زمان چندان طولانی نیست. اگر هوش مصنوعی بتواند بدون نیاز به مجوزهای ویژه از گیرنده تلویزیونی شما به اجاق هوشمندتان منتقل شود، ایمن بودن تصاویر دوربینتان دیگر اهمیتی نخواهد داشت.
ما در حال ساخت خانه‌ای هوشمند هستیم که در برابر نخستین عاملی که یاد بگیرد چگونه از دیوارهای امنیتی عبور کند، کاملاً بی‌دفاع خواهد بود. این آزمایش از نظر فناوری شگفت‌انگیز است، اما مطمئن نیستم که بخواهم اتاق نشیمن خانه‌ام به آزمایشگاه آزمایش آن تبدیل شود.