آیا هوش مصنوعی می‌تواند تلویزیون هوشمند شما را آلوده کند؟ یافته‌های آزمایش جدید آنتروپیک
عکس آرشیوی
پژوهشگران آنتروپیک می‌گویند مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی فاصله داشته باشند که بتوانند خود را روی ابزارهای معمولی مانند تلویزیون‌های هوشمند، بدون نیاز به مراکز داده، تکثیر کنند.
آن‌ها در نتایج آزمایش‌های خود اعلام کردند: «آزمایش‌های ما نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده به اندازه‌ای توانمند شوند که بتوانند روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی ارزان‌قیمت، خود را تکثیر کنند.»
ویلیام ژو و دنیل فریمن، پژوهشگران ایمنی هوش مصنوعی در تیم قرمز مرزی آنتروپیک، گفتند چنین تکثیرکننده‌ای می‌تواند به‌سختی متوقف شود، زیرا نقطه مرکزی واحدی برای خاموش کردن آن وجود ندارد؛ هرچند ممکن است سرعت انتشار آن پایین باشد و دو برابر شدن تعداد نسخه‌هایش چند روز زمان ببرد.
تیم قرمز مرزی، واحد داخلی آنتروپیک است که مدل‌های پیشرفته هوش مصنوعی را پیش از عرضه عمومی از نظر خطرات ایمنی، آسیب‌پذیری‌های سایبری و سوءاستفاده‌های احتمالی آزمایش می‌کند.
هوش مصنوعی خودتکثیرکننده چیست؟
هوش مصنوعی خودتکثیرکننده سامانه‌ای است که می‌تواند بدون دخالت انسان، نسخه‌های فعال و کاربردی از خود ایجاد کند یا کد و دستورالعمل‌هایش را به رایانه‌ها، سرورها یا دستگاه‌های متصل به اینترنت دیگر منتقل کند.
برخی سامانه‌ها، مشابه کرم‌های رایانه‌ای، می‌توانند با فریب دستیارهای ایمیلی مبتنی بر هوش مصنوعی یا گردش‌های کاری مشترک، آن‌ها را وادار کنند دستورهای مخفی مخرب را بخوانند و به عامل‌های متصل دیگر منتقل کنند. کرم رایانه‌ای نوعی بدافزار مستقل است که برای انتشار روی رایانه‌های دیگر، خود را تکثیر می‌کند و به فایل میزبان یا اقدام انسانی نیاز ندارد.
پژوهشگران گفتند: «یک بات‌نت توزیع‌شده از دستگاه‌های اینترنت اشیا ــ شبکه‌ای از دستگاه‌های هک‌شده ــ که ارزان‌قیمت و معمولاً دارای حفاظت ضعیف هستند، می‌تواند توان پردازشی کافی برای اجرای یک مدل توانمند را فراهم کند.»
به همین دلیل، دستگاه‌هایی مانند جعبه‌های تلویزیون هوشمند، اجاق‌های هوشمند، یخچال‌ها و دوربین‌های امنیتی می‌توانند از جمله اهداف احتمالی باشند.
پژوهشگران افزودند: «دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک ممکن است نخستین هدف چنین حملاتی باشند، زیرا به اینترنت متصل هستند و در گذشته معمولاً حداقل تدابیر امنیتی را داشته‌اند.»
این اتفاق چه زمانی ممکن است رخ دهد؟
بر اساس برآورد تقریبی پژوهشگران آنتروپیک، اگر مدل‌های کوچک هوش مصنوعی با همان سرعت تاریخی خود پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ به سطح موردنیاز برسند.
هشدار گسترده‌تر آن‌ها درباره آینده‌ای است که در آن عامل‌های هوش مصنوعی روی انواع مختلف سخت‌افزار اجرا می‌شوند؛ سخت‌افزارهایی که برخی از آن‌ها ممکن است خارج از کنترل انسان باشند.
پژوهشگران گفتند: «ظهور تکثیرکننده‌های کند می‌تواند نشانه‌ای برای ظهور نمونه‌های سریع‌تر و تهاجمی‌تر باشد؛ نمونه‌هایی که قادر به نفوذ به ماشین‌های محافظت‌شده‌تر یا سرقت مؤثر کلیدهای API (رابط برنامه‌نویسی کاربردی) هستند. باید سامانه‌های خود را مقاوم‌تر کنیم تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما هم‌زمان باید برای جهانی آماده شویم که در آن این عوامل حضور دائمی دارند.»
دستگاه‌های خانه هوشمند با گذرواژه‌های ضعیف یا پیش‌فرض می‌توانند اهداف آسانی باشند. همچنین اگر هیچ سرور مرکزی وجود نداشته باشد، یک کلید خاموش‌کننده واحد نیز وجود نخواهد داشت. پژوهشگران افزودند که برخلاف بدافزارهای معمولی، چنین سامانه‌ای ممکن است بتواند دستگاه‌های ناشناخته را نیز به‌صورت مستقل شناسایی کند. با این حال، زمان دو برابر شدن آن ممکن است چند روز طول بکشد.
آن‌ها تأکید کردند: «هنوز یک تکثیرکننده سرکش کامل در اختیار نداریم، اما عامل‌ها به‌طور فزاینده‌ای توانایی انجام مراحل جداگانه زنجیره تکثیر و انتقال سازگاری‌های خود به نسخه‌های آینده را پیدا می‌کنند.»
چه اقداماتی می‌توان انجام داد؟
ارائه‌دهندگان خدمات اینترنتی می‌توانند ترافیک غیرعادی را شناسایی کرده و خانه‌های آلوده را قرنطینه کنند. پژوهشگران اشاره کردند که در نمونه پیشین بات‌نت Mirai، این اقدام باعث پاک‌سازی ۹۲ درصد از آلودگی‌ها در مدت ۱۴ روز شد؛ در حالی که بدون اطلاع‌رسانی به مشتریان این رقم ۷۴ درصد بود.
بات‌نت Mirai نوعی بدافزار است که دستگاه‌های هوشمند مانند روترهای خانگی و دوربین‌های امنیتی را به «ربات» یا «زامبی»های تحت کنترل از راه دور تبدیل می‌کند تا حملات گسترده شبکه‌ای انجام دهند.
پژوهشگران آنتروپیک گفتند: «تولیدکنندگان می‌توانند با کمک مقررات، تعداد اهداف بالقوه را کاهش دهند و هماهنگی ایجاد کنند. برای مثال، گذرواژه‌های پیش‌فرض دستگاه‌های اینترنت اشیا دیگر در بازار بریتانیا با مقررات سازگار نیستند. حرکت به سمت تنظیمات پیش‌فرض امن‌تر و افزایش استانداردهای پایه، به مقاوم‌سازی در برابر هم بات‌نت‌های مبتنی بر هوش مصنوعی و هم بات‌نت‌های سنتی کمک می‌کند.»
در نتیجه، تغییر گذرواژه‌های پیش‌فرض و به‌روزرسانی نرم‌افزار دستگاه‌ها می‌تواند به افزایش امنیت کمک کند.
پژوهشگران دقیقاً چه کاری انجام دادند؟
ژو و فریمن از آنتروپیک سه آزمایش اصلی انجام دادند.
آزمایش اول: آیا ابزارهای ارزان می‌توانند یک هوش مصنوعی بزرگ را اجرا کنند؟ پژوهشگران ۱۵ جعبه تلویزیون اندرویدی ارزان‌قیمت را که هرکدام حدود ۵ هزار روپیه قیمت داشتند، به هم متصل کردند تا مانند یک ماشین واحد کار کنند. این مجموعه توانست یک مدل بزرگ هوش مصنوعی به نام Gemma4-26B-A4B را اجرا کند، اما عملکرد آن بسیار کند بود.
آزمایش دوم: آیا یک هوش مصنوعی می‌تواند خود را روی دستگاه‌هایی که قبلاً ندیده است راه‌اندازی کند؟ تیم پژوهش، یک مدل کوچک هوش مصنوعی را روی ۹ نوع سخت‌افزار مختلف، از بردهای کوچک تا رایانه‌های رومیزی، آزمایش کرد. این مدل توانست روی هشت مورد از آن‌ها یک سیستم هوش مصنوعی را اجرا کند. پژوهشگران گفتند: «در ارزیابی‌های ما، یک مدل ۹ میلیارد پارامتری توانست روی ۸ مورد از ۹ نوع سخت‌افزاری که آزمایش کردیم، استنتاج را اجرا کند.»
آزمایش سوم: آیا یک هوش مصنوعی می‌تواند به‌تنهایی منتشر شود؟ در یک شبکه شبیه‌سازی‌شده شامل هشت رایانه، یک مدل هوش مصنوعی به نام GLM-5.2 در چهار مورد از پنج آزمایش توانست خود را روی هر هشت دستگاه کپی کند و در آزمایش دیگر روی هفت دستگاه منتشر شد. سایر مدل‌های آزمایش‌شده تقریباً همیشه شکست خوردند.