تلویزیون‌ها و لوازم خانگی می‌توانند به سکوی پرتاب حملات سایبری مبتنی بر هوش مصنوعی تبدیل شوند: آنتروپیک
آنتروپیک در یک آزمایش داخلی دریافت که مدل‌های کوچک هوش مصنوعی (AI) می‌توانند بسیاری از مراحل لازم برای تکثیر خود در میان دستگاه‌های متصل را انجام دهند. چنین قابلیت‌هایی ممکن است به تلویزیون‌های هوشمند و لوازم خانگی آلوده اجازه دهد به بخشی از شبکه‌ای برای انتشار بدافزار یا اجرای مدل‌های هوش مصنوعی تبدیل شوند. این نوع شبکه همچنین می‌تواند به‌دلیل وابسته نبودن به یک سرور مرکزی واحد، دشوارتر از حملات سنتی برای متوقف شدن باشد.
مدل‌های کوچک هوش مصنوعی می‌توانند به ابزار حملات سایبری آینده تبدیل شوند
آنتروپیک دریافت مدل‌های هوش مصنوعی با ۳۰ میلیارد پارامتر یا کمتر قادرند بسیاری از مراحل جداگانه مورد نیاز برای کپی کردن خود در میان دستگاه‌ها را انجام دهند، هرچند این مدل‌ها در تکمیل کل فرآیند به‌صورت قابل اعتماد با مشکل روبه‌رو شدند.
در یکی از آزمایش‌ها، پژوهشگران GLM-5.2 را روی یک شبکه شبیه‌سازی‌شده شامل هشت دستگاه آزمایش کردند. این مدل در چهار مورد از پنج آزمایش به هر هشت دستگاه رسید و در آزمایش پنجم به هفت دستگاه دسترسی پیدا کرد. پژوهشگران همچنین بررسی کردند که آیا مدل‌های کوچک‌تر می‌توانند روی سخت‌افزارهای مختلف اجرا شوند یا خیر. مدلی با ۹ میلیارد پارامتر توانست روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده، استنتاج هوش مصنوعی انجام دهد.
آنتروپیک اعلام کرد اگر مدل‌ها با همان سرعت پیشین بهبود پیدا کنند، مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ توانایی تکثیر قابل اعتماد خود را پیدا کنند. با این حال، این زمان‌بندی پیش‌بینی پژوهشگران است و به معنای تأیید وقوع چنین حملاتی در دنیای واقعی نیست.
کارشناسان معتقدند این هشدارهای اولیه نباید نادیده گرفته شوند.
«هنوز شاهد یک کرم کاملاً خودکار هوش مصنوعی که در شبکه‌های واقعی منتشر شود نبوده‌ایم. اما با افزایش توانایی مدل‌های کوچک‌تر، این فاصله ممکن است سریع‌تر از انتظار کاهش یابد. این پژوهش را باید یک هشدار اولیه و دلیلی برای اصلاح مشکلات پایه‌ای در همین حالا دانست»، جایدیپ سینگ، مدیرکل کسپرسکی در هند، گفت.
چرا تلویزیون‌های هوشمند و لوازم خانگی اهمیت دارند
پژوهش آنتروپیک نگرانی‌هایی را ایجاد کرده است که مهاجمان ممکن است برای اجرای مدل‌های هوش مصنوعی دیگر به مراکز داده گران‌قیمت یا تراشه‌های قدرتمند نیاز نداشته باشند. در یکی از آزمایش‌ها، پژوهشگران مدلی با نام Gemma4-26B-A4B را روی ۱۵ دستگاه اندرویدی تلویزیونی ارزان‌قیمت که هرکدام ۴ گیگابایت حافظه داشتند اجرا کردند. آن‌ها مدل را به بخش‌های کوچک‌تر تقسیم کردند تا دستگاه‌ها بتوانند به‌صورت مشترک آن را اجرا کنند.
اگر مهاجمان کنترل تعداد کافی از دستگاه‌های متصل را به دست آورند، ممکن است بتوانند توان پردازشی آن‌ها را ترکیب کرده و مدل‌های هوش مصنوعی را اجرا کنند. تلویزیون‌های هوشمند، دوربین‌ها و لوازم خانگی در صورت داشتن امنیت ضعیف می‌توانند هدف قرار گیرند. این دستگاه‌ها معمولاً همیشه روشن هستند و ممکن است به‌طور منظم به‌روزرسانی نرم‌افزاری دریافت نکنند؛ موضوعی که آن‌ها را برای مهاجمان جذاب می‌کند.
آنتروپیک به کیم‌وُلف (Kimwolf)، یک بات‌نت موجود در حوزه اینترنت اشیا (IoT)، اشاره کرد که بیش از دو میلیون دستگاه را آلوده کرده و عمدتاً دستگاه‌های اندرویدی تلویزیونی بدون برند معتبر را هدف قرار داده است.
«دستگاه‌های متصل ارزان‌قیمت همیشه روشن هستند، به‌ندرت پایش می‌شوند و به‌ندرت به‌روزرسانی می‌شوند؛ به همین دلیل بات‌نت‌ها سال‌هاست به آن‌ها متکی بوده‌اند. گونه‌های مختلف Mirai همچنان بخش عمده تهدیدهایی را تشکیل می‌دهند که دستگاه‌های اینترنت اشیا را هدف می‌گیرند»، بیکرامدیپ سینگ، معاون رئیس در هند و SAARC در Proofpoint، گفت. او افزود مهاجمان احتمالاً از ضعف‌های شناخته‌شده مانند گذرواژه‌های پیش‌فرض، سرویس‌های در معرض دسترسی مانند Telnet یا SSH و نرم‌افزارهای قدیمی استفاده خواهند کرد.
هوش مصنوعی چگونه می‌تواند شیوه انتشار بدافزار را تغییر دهد
بدافزارهای سنتی می‌توانند خود را میان سامانه‌های آسیب‌پذیر کپی کنند، اما معمولاً از دستورالعمل‌هایی پیروی می‌کنند که سازندگانشان نوشته‌اند. پژوهش آنتروپیک بررسی می‌کند که آیا مدل‌های هوش مصنوعی می‌توانند فرآیند شناسایی دستگاه‌های ناشناخته و سازگاری با سخت‌افزارهای مختلف را خودکار کنند یا خیر.
پژوهشگران همچنین روشی را آزمایش کردند که در آن یک عامل هوش مصنوعی یادداشت‌هایی درباره تلاش‌های خود به یک عامل جدید منتقل می‌کرد. عامل‌های بعدی می‌توانستند از این اطلاعات برای امتحان کردن روش‌های متفاوت استفاده کنند و اشتباهات قبلی را تکرار نکنند.
در این آزمایش‌ها، نرخ موفقیت برای راه‌اندازی استنتاج هوش مصنوعی روی سخت‌افزارهای ناشناخته از ۴۵ درصد در نسل نخست به ۶۱ تا ۸۴ درصد در نسل‌های بعدی افزایش یافت. این موضوع به معنای آن نیست که مدل به‌طور مستقل خود را بازآموزی کرده است؛ بلکه عامل‌های بعدی از اطلاعاتی که عامل‌های قبلی به اشتراک گذاشته بودند بهره بردند.
سینگ گفت بدافزارهای سنتی از یک دستورالعمل مشخص پیروی می‌کنند و به همین دلیل معمولاً وقتی وارد دستگاهی می‌شوند که برای آن طراحی نشده‌اند، شکست می‌خورند. یک کرم مبتنی بر هوش مصنوعی می‌تواند محیط خود را بررسی کند، سامانه مورد نظر را شناسایی کند و رویکرد خود را تغییر دهد؛ چه برای سوءاستفاده از یک آسیب‌پذیری، نصب خود یا پنهان ماندن.
این انعطاف‌پذیری می‌تواند شناسایی چنین تهدیدهایی را دشوارتر کند، زیرا ابزارهای مبتنی بر امضای دیجیتال به شناسایی کد و رفتارهای شناخته‌شده متکی هستند. با این حال، مدل‌های هوش مصنوعی بسیار بزرگ‌تر از بدافزارهای معمولی هستند؛ موضوعی که می‌تواند حرکت آن‌ها در شبکه‌ها را کندتر و شناسایی‌شان را آسان‌تر کند.
شرکت‌ها اکنون چه اقداماتی باید انجام دهند
برای شرکت‌های هندی، دیگر نمی‌توان امنیت دستگاه‌های متصل، خدمات ابری و هوش مصنوعی را پروژه‌هایی جداگانه در نظر گرفت. یک دوربین مداربسته، تلویزیون هوشمند در اتاق جلسه یا یک عامل هوش مصنوعی با دسترسی‌های گسترده، هرکدام می‌توانند راهی برای نفوذ باشند.
به گفته سینگ، شیوه‌های فعلی بخشی از این خطر را پوشش می‌دهند، اما بیشتر آن‌ها بر بدافزارهای شناخته‌شده و حملات انسانی تمرکز دارند. بسیاری از سازمان‌ها هنوز فهرست کاملی از دستگاه‌های اینترنت اشیا و عامل‌های هوش مصنوعی خود ندارند و آغاز کار باید از همین نقطه باشد.
سینگ گفت تولیدکنندگان دستگاه‌ها باید گذرواژه‌های پیش‌فرض را حذف کنند، سرویس‌های بلااستفاده را هنگام عرضه دستگاه خاموش کنند و برای تمام عمر دستگاه از به‌روزرسانی میان‌افزار پشتیبانی کنند. آن‌ها همچنین باید زنجیره تأمین خود را ایمن کنند، زیرا درهای پشتی می‌توانند پیش از فروش دستگاه در میان‌افزار آن تعبیه شوند.
شرکت‌ها نیز باید اطلاعات ورود پیش‌فرض را تغییر دهند، میان‌افزارها را به‌روزرسانی کنند، دستگاه‌ها را در شبکه‌های جداگانه قرار دهند و دسترسی از راه دور را در موارد غیرضروری غیرفعال کنند. برای عامل‌های هوش مصنوعی، دستورالعمل‌ها توصیه می‌کنند داده‌های خارجی به‌عنوان داده غیرقابل اعتماد در نظر گرفته شوند و پیش از هر اقدام غیرقابل بازگشت، تأیید انسانی دریافت شود.
«مدل‌های سنتی امنیت سایبری بر یک عامل تهدید انسانی بنا شده‌اند. اما وقتی کد می‌تواند یاد بگیرد، سازگار شود، خود را پنهان کند و احتمالاً تکثیر شود، امنیت باید از شناسایی مبتنی بر امضا به سمت مهار مبتنی بر رفتار تکامل پیدا کند»، آشیش شارما، شریک در Deloitte India، گفت.
شارما گفت سازمان‌ها باید لایه‌های دفاعی مختلفی را تقویت کنند؛ از جمله مدیریت هویت و سطح دسترسی، کنترل‌های ورود و خروج شبکه، سامانه‌های EDR/XDR که برای شناسایی رفتارهای مبتنی بر هوش مصنوعی تنظیم شده‌اند، چارچوب‌های حاکمیتی قوی و در صورت نیاز، یک «کلید توقف» قابل اعتماد.