آنتروپیک هشدار داد: هوش مصنوعی ممکن است به‌زودی در دستگاه‌های هوشمند ارزان‌قیمت گسترش یابد
پژوهش جدید شرکت هوش مصنوعی آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در میان ابزارهای ارزان‌قیمت و کم‌امنیت متصل به اینترنت فاصله داشته باشند؛ ابزارهایی مانند گیرنده‌های پخش تلویزیونی، دوربین‌های هوشمند و لوازم خانگی بی‌نام‌ونشان. به گفته این شرکت، چنین کرمی به جای آنکه در یک مرکز داده واحد فعالیت کند، میان هزاران یا حتی میلیون‌ها دستگاه پراکنده خواهد شد و در نتیجه نقطه مرکزی مشخصی برای متوقف کردن آن وجود نخواهد داشت.
این گزارش که روز دوشنبه توسط تیم «رد تیم مرزی» آنتروپیک منتشر شد، گروهی که مدل‌های هوش مصنوعی را برای شناسایی توانایی‌های خطرناک آزمایش می‌کند، در شرایطی منتشر شده است که صنعت فناوری با نگرانی فزاینده درباره خروج عامل‌های هوش مصنوعی از محیط‌های آزمایشی خود روبه‌رو است. این گزارش همچنین دو هفته پس از آن منتشر شد که مدیران ارشد شرکت‌های هوش مصنوعی، از جمله داریو آمودی، مدیرعامل آنتروپیک، در قالب تعهدی داوطلبانه در کاخ سفید قول دادند برای کنترل خطرات این فناوری تلاش کنند.
برای نشان دادن اینکه دستگاه‌های روزمره قدرت پردازشی کافی برای اجرای یک مدل هوش مصنوعی را دارند، پژوهشگران آنتروپیک ۱۵ گیرنده تلویزیونی اندرویدی بی‌نام‌ونشان را با قیمت حدود ۵۵ دلار برای هر دستگاه خریدند و آنها را به یک شبکه متصل کردند. سپس یک مدل هوش مصنوعی را روی مجموعه این دستگاه‌ها اجرا کردند؛ به‌گونه‌ای که هر گیرنده بخش کوچکی از پردازش را انجام می‌داد. سرعت اجرا پایین بود و کمتر از یک کلمه در ثانیه پردازش می‌شد، اما این فرایند عملاً اجرا شد.
در مرحله بعد، تیم پژوهش بررسی کرد که آیا مدل‌های کوچک هوش مصنوعی می‌توانند بدون کمک انسان، روی سخت‌افزارهای ناشناخته اجرا شوند یا نه. یکی از مدل‌ها با ۹ میلیارد پارامتر که با استانداردهای امروزی کوچک محسوب می‌شود، توانست این کار را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده انجام دهد؛ سخت‌افزارهایی که از بردهای توسعه کوچک تا رایانه‌های مک را شامل می‌شدند.
در آزمایش نهایی، پژوهشگران یک شبکه ایزوله شامل هشت دستگاه شبیه‌سازی‌شده اندرویدی را در فضای ابری گوگل ایجاد کردند و یک کرم هوش مصنوعی را روی یکی از آنها قرار دادند. تنها یک مدل، GLM-5.2، توانست به‌طور قابل اعتماد چرخه کامل پیدا کردن دستگاه جدید، کپی کردن خود، راه‌اندازی و تکرار این فرایند را انجام دهد. این مدل در چهار مورد از پنج آزمایش توانست به هر هشت دستگاه برسد.
پژوهشگران اذعان کردند که مرحله نفوذ را با آسان‌تر کردن شرایط آزمایش، ساده کرده‌اند؛ زیرا دستگاه‌ها بدون محافظت رمز عبور رها شده بودند. بنابراین نتایج، بهترین شرایط ممکن برای عملکرد این کرم را نشان می‌دهد. آنتروپیک برآورد می‌کند مدل‌های کوچک هوش مصنوعی تا پایان سال ۲۰۲۶ ممکن است به سطح توانایی GLM-5.2 برسند. هر کرمی که در نتیجه ایجاد شود احتمالاً به‌آرامی گسترش خواهد یافت و تعداد آلودگی‌ها به جای چند دقیقه، طی چند روز دو برابر می‌شود. با این حال، در یکی از آزمایش‌ها، نسخه‌های کپی هوش مصنوعی که یادداشت‌های تلاش‌های قبلی را به ارث برده بودند، به مرور بهتر شدند و نرخ موفقیت آنها از ۴۵ درصد در نسل اول به ۸۴ درصد در نسل‌های بعدی رسید.
آنتروپیک تأکید می‌کند که تاکنون نمونه‌ای کامل از یک تکثیرکننده سرکش هوش مصنوعی مشاهده نکرده است. با این حال، این شرکت به یک نمونه واقعی اشاره می‌کند: بات‌نتی به نام Kimwolf که بیش از ۲ میلیون دستگاه را آلوده کرد و بیشتر قربانیان آن گیرنده‌های تلویزیونی اندرویدی بی‌نام‌ونشان بودند. این دستگاه‌ها معمولاً نسخه‌های ساده‌شده‌ای از اندروید را اجرا می‌کنند که سازندگان آنها قابلیت‌های امنیتی بیشتری به آن اضافه نمی‌کنند.
بروس اشنایر، کارشناس امنیت سایبری و نویسنده که در مدرسه دولتی کندی دانشگاه هاروارد و مدرسه مانک دانشگاه تورنتو تدریس می‌کند، می‌گوید مشکل از نحوه ساخت این دستگاه‌ها آغاز می‌شود.
اشنایر به Scripps News گفت: «تلفن شما، رایانه شما، به دو دلیل تا حدی امن هستند. نخست اینکه تیم‌های مهندسی اختصاصی در اپل، گوگل و مایکروسافت از ابتدا آنها را با هدف امنیت طراحی می‌کنند و همان مهندسان برای نوشتن وصله‌ها هنگام کشف آسیب‌پذیری‌های جدید حضور دارند. دستگاه‌های اینترنت اشیا (IoT) بسیار ارزان‌تر ساخته می‌شوند.»
او گفت بسیاری از این دستگاه‌ها پس از کشف یک نقص امنیتی اصلاً قابل تعمیر نیستند. «برای مثال، راهی برای وصله کردن روتر خانگی شما وجود ندارد. روش به‌روزرسانی آن این است که آن را دور بیندازید و یک دستگاه جدید بخرید.»
اشنایر می‌گوید هک کردن این ابزارها توسط مهاجمان موضوع تازه‌ای نیست. او گفت: «همین حالا هم شاهد ورود هکرها به یخچال‌ها و لوازم خانگی متصل به اینترنت برای استخراج بیت‌کوین و سرقت اطلاعات ورود هستیم.» به گفته او، چیزی که هوش مصنوعی تغییر می‌دهد سرعت است: «این خطر جدیدی با هوش مصنوعی نیست. خطر ترسناک‌تری هم نیست؛ فقط وجود دارد، اما هوش مصنوعی می‌تواند آن را با سرعت و مقیاسی بی‌سابقه انجام دهد.»
راهکارهای پیشنهادی آنتروپیک برای مقابله با این تهدید، تا حد زیادی به اقدامات دیگران وابسته است. این شرکت می‌گوید ارائه‌دهندگان اینترنت می‌توانند ترافیک غیرعادی ایجادشده توسط یک کرم هوش مصنوعی را شناسایی کنند؛ برای مثال دانلودهای چند گیگابایتی که به گیرنده‌های تلویزیونی وارد می‌شوند. سازندگان دستگاه‌ها نیز می‌توانند تنظیمات پیش‌فرض امن‌تری ارائه کنند؛ همان‌طور که بریتانیا اکنون با ممنوع کردن گذرواژه‌های پیش‌فرض چنین الزامی را ایجاد کرده است.
با این حال، آنتروپیک در جمع‌بندی خود می‌گوید جامعه باید هم‌زمان با مقاوم‌تر کردن سامانه‌ها، برای «زندگی در جهانی که این فناوری‌ها در آن باقی خواهند ماند» آماده شود.
اشنایر این دیدگاه را که یک هوش مصنوعی خارج از کنترل نمی‌تواند متوقف شود، رد می‌کند.
او به Scripps News گفت: «البته امکان داشتن کلید خاموش وجود دارد. امکان خاموش کردن رایانه‌ها وجود دارد. امکان متوقف کردن شرکت‌ها هم وجود دارد، درست است؟ قدرت این شرکت‌ها باعث شده بگویند سیستم سرکش شده و تقصیر ما نیست؛ که البته بی‌معنی است. هیچ چیز جادویی در این میان وجود ندارد. این فقط یک دستگاه است. با برق کار می‌کند. برق را قطع کنید و از بین می‌رود.»
او استدلال می‌کند که سپردن مسئولیت به سازندگان دستگاه‌ها و ارائه‌دهندگان اینترنت باعث می‌شود توسعه‌دهندگان هوش مصنوعی از مسئولیت خود دور بمانند. اشنایر گفت: «شرکت‌های هوش مصنوعی وقتی خوب است، مسئول هستند، اما وقتی بد است، مسئول نیستند. ما می‌توانستیم این مشکل را حل کنیم. می‌توانستیم مانند هر محصول دیگری، مسئولیت حقوقی برای آن تعیین کنیم.»
برای افرادی که درباره ابزارهای موجود در خانه‌هایشان نگران هستند، اشنایر راهکارهای اطمینان‌بخشی ارائه نمی‌کند. او می‌گوید بدون قوانین قوی مسئولیت محصول یا نظارت جدی دولت فدرال، خریداران راه‌های محدودی برای تشخیص ایمن بودن دستگاه‌ها دارند.
او گفت: «هیچ کاری نمی‌توانید انجام دهید، درست است؟ شما هیچ دیدی ندارید که آیا این دستگاه‌ها خوب هستند یا نه.»
با این حال، اقدام‌های ساده‌ای می‌تواند میزان خطر را کاهش دهد؛ از جمله تغییر گذرواژه‌های پیش‌فرض، نصب به‌روزرسانی‌ها در صورت ارائه شدن توسط سازنده، یا انتخاب دستگاه‌های گران‌تر از برندهای شناخته‌شده.