اپل هاب خانه هوشمند خود را عرضه کرد؛ هشدار آنتروپیک درباره خطرات هوش مصنوعی در خانه‌های متصل
وعده اصلی خانه هوشمند همیشه راحتی بوده است: چراغ‌هایی که با فرمان تنظیم می‌شوند، درهایی که از طریق تلفن همراه قفل می‌شوند و فری که می‌توان آن را از محل کار از پیش گرم کرد. اما این هفته دو نام بزرگ فناوری، دو تصویر کاملاً متفاوت از آینده خانه‌های متصل ارائه کردند؛ آن هم در شرایطی که خبر هک گسترده‌ای که باعث آتش‌سوزی در فروشگاه‌های زنجیره‌ای فرانسه از طریق یخچال‌های متصل شده بود، اهمیت این موضوع را بیشتر کرده است.
اپل امروز از HomeView رونمایی کرد؛ یک نمایشگر ۲۹۹ دلاری که می‌تواند روی دیوار یا میز نصب شود و به مرکز کنترل دستگاه‌های یک خانه تبدیل شود. یک روز پیش از آن، شرکت توسعه‌دهنده هوش مصنوعی آنتروپیک پژوهشی منتشر کرد که در آن استدلال شده بود همین دسته از ابزارهای ارزان‌قیمت و همیشه روشن ممکن است در عرض چند ماه به بستری برای برنامه‌های هوش مصنوعی تبدیل شوند که بدون دخالت انسان خود را از دستگاهی به دستگاه دیگر منتقل می‌کنند.
هیچ‌کدام از این دو شرکت مستقیماً با بیمه‌گران صحبت نمی‌کردند، اما برای شرکت‌هایی که بیمه خانه، بیمه سایبری شخصی و بیمه سایبری کسب‌وکارهای کوچک ارائه می‌کنند، زمان‌بندی این اتفاق‌ها قابل توجه است: تعداد دستگاه‌های متصل در خانه‌های بیمه‌شدگان همچنان در حال افزایش است و مدل تهدید این دستگاه‌ها ممکن است به‌زودی تغییر کند.
یک جعبه تلویزیونی ۵۵ دلاری به‌عنوان میزبان هوش مصنوعی؛ بدون دکمه خاموش
تیم «رد تیم مرزی» آنتروپیک که توانایی‌های خطرناک مدل‌های خود و مدل‌های رقیب را بررسی می‌کند، تلاش کرد از ایجاد ترس فوری جلوگیری کند، اما هشدار داد که ممکن است مشکلاتی در پیش باشد. ویلیام ژو و دنیل فریمن، پژوهشگران این تیم، نوشتند که تاکنون هیچ هوش مصنوعی خودگسترش‌یابنده‌ای در دنیای واقعی مشاهده نشده است. آنچه آن‌ها پیدا کردند، به گفته خودشان، تنها «نشانه‌هایی از حیات» بود.
برای آزمایش اینکه آیا تجهیزات خانگی می‌توانند یک مدل هوش مصنوعی قابل توجه را اجرا کنند، این تیم ۱۵ دستگاه استریم تلویزیونی اندرویدی بدون برند را با قیمت حدود ۵۵ دلار برای هر دستگاه خرید، آن‌ها را به شبکه متصل کرد و مدل متن‌باز Gemma4-26B-A4B گوگل را میان همه آن‌ها تقسیم کرد؛ به‌طوری که هر دستگاه دو لایه از مدل را در اختیار داشت. مدل اجرا شد، اما با سرعتی پایین؛ حدود ۰٫۳۹ توکن در ثانیه.
همین کندی بخشی از هشدار آنتروپیک است. از آنجا که چنین مدلی می‌تواند به بخش‌هایی تقسیم شود و روی تعداد زیادی ماشین ضعیف پخش شود، دیگر یک سرور واحد وجود ندارد که بتوان آن را خاموش کرد. آنتروپیک یک تکثیرکننده احتمالی آینده را به کپک لزج تشبیه کرد؛ موجودی پایدار و پراکنده که زمان دو برابر شدن آن به جای چند دقیقه، چند روز خواهد بود.
در آزمایشی دوم و کنترل‌شده‌تر روی هشت دستگاه اندرویدی شبیه‌سازی‌شده در فضای ابری، یک مدل متن‌باز با وزن‌های آزاد به نام GLM-5.2 توانست تمام چرخه را به‌صورت مستقل انجام دهد: یک دستگاه جدید را پیدا کند، خود را به آن منتقل کند و یک مدل فعال ایجاد کند. این مدل در چهار مورد از پنج آزمایش به هر هشت گره رسید. پژوهشگران تأکید کردند که مرحله نفوذ سایبری عمداً ساده‌سازی شده بود؛ بنابراین این نتیجه سقف توانایی‌ها را نشان می‌دهد، نه پیش‌بینی آینده.
آن‌ها همچنین اشاره کردند که امنیت واقعی اینترنت اشیا اغلب چندان دشوارتر نیست. بات‌نت Mirai که در سال ۲۰۱۶ وب‌سایت‌های بزرگی را از کار انداخت، عمدتاً با آزمایش فهرست‌هایی از نام‌های کاربری و گذرواژه‌های پیش‌فرض کارخانه‌ای گسترش یافت.
آنتروپیک با بررسی روند پیشرفت مدل‌های کوچک در طول زمان تخمین زد مدلی که آن‌قدر کوچک باشد که روی سخت‌افزار خانگی اجرا شود، ممکن است تا پایان سال ۲۰۲۶ به سطح GLM-5.2 برسد. پژوهشگران هشدار دادند که این برآورد تنها بر پایه یک شاخص کلی توانایی است و صرفاً یک نشانه تقریبی محسوب می‌شود.
یک تفاوت مهم، این سناریو را از بدافزارهای معمولی جدا می‌کند. یک بات‌نت سنتی برای حمله به دستگاه‌های مشخص برنامه‌ریزی شده است، اما یک بات‌نت مبتنی بر هوش مصنوعی می‌تواند خودش سخت‌افزارهای ناشناخته را شناسایی کند. آنتروپیک دریافت که مدل‌های آزمایشی آن‌ها در نسل‌های بعدی بهتر عمل کردند، زیرا هر نسخه اطلاعاتی را به نسخه بعدی منتقل می‌کرد.
اپل می‌خواهد خانه را مدیریت کند
هاب جدید اپل یک نمایشگر ۷ اینچی است که اعضای خانواده را از طریق چهره تشخیص می‌دهد و برای هر فرد پیام‌ها، تقویم و یادآوری‌های شخصی او را نمایش می‌دهد. این دستگاه از حداکثر شش کاربر پشتیبانی می‌کند، به تراشه A18 مجهز است و یک دوربین ۱۲ مگاپیکسلی و آرایه‌ای چهارمیکروفونه دارد که از سراسر اتاق به فرمان‌های سیری گوش می‌دهد. پیش‌فروش آن از سه‌شنبه آغاز شد و عرضه آن در ۱۳ نوامبر انجام می‌شود. این دومین رویداد معرفی محصول اپل پس از آغاز مدیریت جان ترنوس است که در سپتامبر جانشین تیم کوک شد.
برای بیمه‌گران، بخش مهم‌تر این است که HomeView چه چیزهایی را کنترل می‌کند. اپل آن را به‌عنوان داشبوردی برای کل خانه معرفی کرده است: مشاهده تصاویر دوربین‌ها، تغییر دمای خانه و قفل کردن درها. این دستگاه با نسل جدیدی از قفل‌ها، زنگ‌های در و دوربین‌های شرکت LG Electronics کار می‌کند، پایه‌های دیواری آن توسط برند خانگی Schneider Electric ارائه می‌شود و اپل اعلام کرده افزودن یک دستگاه جدید تنها با یک لمس آیفون انجام می‌شود.
همین سادگی راه‌اندازی هدف اصلی محصول است. محصولات خانگی اپل، در کنار Apple Watch و AirPods، در سه‌ماهه منتهی به ژوئن ۷٫۸۸ میلیارد دلار درآمد ایجاد کردند که بر اساس آمار CNBC حدود ۷ درصد از درآمد شرکت را تشکیل می‌دهد. دستگاه‌هایی که یک خانواده را به آیفون وابسته می‌کنند، احتمال تغییر اکوسیستم توسط مشتریان را کاهش می‌دهند.
تفاوت مهمی میان اکوسیستم اپل و دستگاه‌هایی که آنتروپیک آزمایش کرد وجود دارد. سخت‌افزار گران‌قیمت با به‌روزرسانی مرکزی از سوی یک تولیدکننده بزرگ، از نظر امنیتی شرایط کاملاً متفاوتی نسبت به یک جعبه استریم بدون برند دارد که با نسخه قدیمی اندروید عرضه می‌شود و هرگز وصله امنیتی دریافت نمی‌کند. پژوهشگران آنتروپیک به بات‌نتی به نام Kimwolf اشاره کردند که توسط شرکت امنیتی Synthient ثبت شده و بیش از دو میلیون دستگاه، عمدتاً جعبه‌های تلویزیونی اندرویدی بدون برند، را آلوده کرده بود.
اما یک خانه معمولاً تنها بر یک برند متکی نیست. همان اتاق نشیمنی که یک هاب اپل در آن قرار دارد، ممکن است یک استیک پخش ۴۰ دلاری، یک پریز هوشمند تخفیف‌خورده و یک جاروبرقی رباتیک نیز داشته باشد. آنتروپیک یخچال‌های هوشمند، فرها، جاروبرقی‌ها و ماشین‌های چمن‌زن را از جمله سخت‌افزارهایی دانست که حافظه کافی برای میزبانی بخشی از یک مدل را دارند و دوربین‌های امنیتی مجهز به تراشه‌های هوش مصنوعی را اهداف محتمل معرفی کرد.
چرا بیمه‌گران باید اهمیت دهند
بیمه‌گران حوزه بیمه‌های شخصی طی یک دهه گذشته مشتریان را به استفاده از دستگاه‌های متصل تشویق کرده‌اند. حسگرهای جریان آب، دودکش‌های هوشمند و قفل‌های متصل می‌توانند خسارت‌ها را کاهش دهند و بسیاری از شرکت‌ها برای استفاده از آن‌ها تخفیف ارائه می‌کنند. در گزارش سال ۲۰۲۵ خانه‌داران Nationwide، بیش از ۸۵ درصد نمایندگان گفتند اکنون فناوری خانه هوشمند را به مشتریان به‌عنوان ابزار پیشگیری از خسارت توصیه می‌کنند و ۴۸ درصد مالکان خانه اعلام کردند از آن استفاده می‌کنند.
پژوهش آنتروپیک نمی‌گوید این دستگاه‌ها به‌زودی باعث نشت آب یا باز شدن درها خواهند شد. یک تکثیرکننده هوش مصنوعی، همان‌طور که توصیف شده، بیشتر به حافظه و توان پردازشی دستگاه نیاز دارد. برای صاحب‌خانه، نشانه‌های محتمل‌تر می‌تواند کند شدن شبکه، افزایش مصرف برق و تبدیل شدن خاموش یک دستگاه به نقطه شروع حمله علیه دیگران باشد.
اینجاست که وضعیت پوشش بیمه‌ای مبهم می‌شود. فرم‌های استاندارد بیمه خانه معمولاً جرایم سایبری را پوشش نمی‌دهند و الحاقیه‌های بیمه سایبری شخصی که برای پر کردن این خلأ ایجاد شده‌اند، معمولاً بر کلاهبرداری، اخاذی، بازیابی داده و بازگردانی سیستم تمرکز دارند. اینکه آیا بیمه‌نامه زمانی پاسخگو خواهد بود که یک دستگاه به خدمت گرفته شود، نه اینکه صرفاً برای سرقت پول هک شود، به متن قراردادهایی بستگی دارد که مدت‌ها پیش از تصور یک هوش مصنوعی خودگسترش‌یابنده نوشته شده‌اند.
در بیمه سایبری تجاری، نگرانی بزرگ‌تر تجمیع خسارت‌هاست. کسب‌وکارهای کوچک از همان دوربین‌ها، تجهیزات کنفرانس و حافظه‌های شبکه‌ای استفاده می‌کنند که آنتروپیک آن‌ها را بررسی کرده است. اریک تیفت، مدیر جهانی پذیره‌نویسی در BOXX Insurance، گفته است بیمه‌گران اکنون احتمال حمله یک عامل هوش مصنوعی سرکش به تعداد زیادی از بیمه‌شدگان به‌طور هم‌زمان را در قیمت‌گذاری در نظر می‌گیرند. او افزود بیشتر بیمه‌نامه‌های سایبری، حمله یک عامل هوش مصنوعی را حمله سایبری تلقی می‌کنند، مگر اینکه در بیمه‌نامه بندهای استثنای مربوط به هوش مصنوعی وجود داشته باشد.
این استثناها پیش از این در برخی حوزه‌های دیگر نیز ظاهر شده‌اند. کارگزاران گزارش داده‌اند که برخی بیمه‌گران، استثناهای گسترده هوش مصنوعی را به فرم‌های D&O و E&O اضافه کرده‌اند، در حالی که بسیاری از بیمه‌گران سایبری مسیر دیگری را در پیش گرفته و الحاقیه‌هایی برای تأیید پوشش حملات مبتنی بر هوش مصنوعی افزوده‌اند.
قیمت‌ها هنوز این تغییرات را منعکس نکرده‌اند. بر اساس شاخص بازار جهانی بیمه شرکت Marsh، نرخ‌های بیمه سایبری آمریکا در سه‌ماهه دوم ۲۰۲۶ دو درصد کاهش یافت، در حالی که جیمی دایمون، مدیرعامل JPMorgan، هشدار داده بود هوش مصنوعی ریسک سایبری را ده برابر افزایش داده است.
دفاع‌ها قدیمی‌اند، اما هنوز کار می‌کنند
راهکار پیشنهادی خود آنتروپیک شباهت زیادی به آخرین شیوع بزرگ اینترنت اشیا دارد. مدلی که با کپی کردن فایل‌های چندگیگابایتی میان دستگاه‌ها گسترش پیدا کند، ردپای قابل مشاهده‌ای در پایش ترافیک اینترنت باقی می‌گذارد. هرچه سریع‌تر گسترش یابد، سر و صدای بیشتری ایجاد خواهد کرد.
وقتی ارائه‌دهندگان اینترنت با استفاده از شواهد خارجی، دستگاه‌های آلوده به Mirai را قرنطینه و به مشتریان اطلاع‌رسانی کردند، ۹۲ درصد آلودگی‌ها ظرف ۱۴ روز پاک شدند؛ در حالی که بدون اطلاع‌رسانی به مشتریان این رقم ۷۴ درصد بود. پژوهشگران همچنین به نقش قوانین اشاره کردند و مقررات بریتانیا را مثال زدند که استفاده از گذرواژه‌های پیش‌فرض در دستگاه‌های هوشمند مصرفی را غیرمنطبق با الزامات می‌داند.
آمریکا ممنوعیت مشابهی ندارد. نزدیک‌ترین ابزار این کشور نشان داوطلبانه Cyber Trust Mark کمیسیون ارتباطات فدرال آمریکا (FCC) است؛ برچسبی برای دوربین‌ها، لوازم خانگی، بلندگوها و دیگر دستگاه‌های بی‌سیم که آزمون‌های پایه امنیتی را پشت سر گذاشته‌اند. این برنامه هنوز در حال راه‌اندازی است: FCC در آوریل سازمان غیرانتفاعی ioXt Alliance را به‌عنوان مدیر اصلی معرفی کرد و نهادهای اعتباردهی را تنها در ۲۸ سپتامبر به رسمیت شناخت. برای بیمه‌گران، یک برچسب گسترده و پذیرفته‌شده ممکن است در آینده معیاری ارزان برای سنجش بهداشت امنیتی دستگاه‌ها باشد؛ مشابه نقشی که استانداردهای UL برای ریسک‌های الکتریکی ایفا کرده‌اند.
برای کارگزاران بیمه، توصیه عملی همچنان آشناست: گذرواژه‌های پیش‌فرض را تغییر دهید، درگاه‌های اشکال‌زدایی را خاموش کنید، میان‌افزار دستگاه‌ها را به‌روز نگه دارید و ابزارهای ارزان‌قیمت را در شبکه‌ای جدا از لپ‌تاپ‌ها و تجهیزات کاری قرار دهید. آنچه تغییر کرده میزان فوریت موضوع است و پرسشی که ممکن است بیمه‌گران هنگام تمدید قراردادها مطرح کنند این است: دقیقاً چه چیزهایی به این خانه یا این دفتر متصل شده‌اند؟
آنتروپیک با دقت تأکید کرد که چنین چیزی هنوز وجود ندارد. اما پژوهشگران در پایان به آینده‌ای اشاره کردند که در آن عوامل هوش مصنوعی روی انواع سخت‌افزارها اجرا می‌شوند؛ بخشی از این سخت‌افزارها ممکن است خارج از کنترل هر فردی باشند. برای صنعتی که ریسک خانه‌ها را قیمت‌گذاری می‌کند، این هشدار در همان هفته‌ای مطرح شد که اپل از مصرف‌کنندگان خواست رایانه‌ای مجهز به دوربین و تشخیص چهره را روی دیوار آشپزخانه خود قرار دهند.