Anthropic می‌گوید «بات‌نت‌های هوش مصنوعی» در آینده ممکن است خانه‌های هوشمند را هدف قرار دهند
به نظر می‌رسد تقریباً هر چند هفته یک‌بار، روش تازه‌ای برای نقض ایمنی عمومی توسط مدل‌های پیشرفته هوش مصنوعی مطرح می‌شود. روز دوشنبه، Anthropic اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده به قابلیت‌هایی دست پیدا کنند که به آن‌ها اجازه دهد در میان دستگاه‌های متصل به اینترنت در خانه‌ها تکثیر شوند و نسخه‌هایی از بات‌نت‌ها را در سراسر جهان ایجاد کنند.
اهمیت این نگرانی از منظر امنیت هوش مصنوعی برای فعالان حوزه یکپارچه‌سازی سیستم‌ها، به ارتباط آن با خانه هوشمند بازمی‌گردد. Anthropic توضیح داده است که مدل‌های هوش مصنوعی ممکن است بتوانند به دستگاه‌های متصل به اینترنت، مانند اجاق‌های هوشمند یا جعبه‌های تلویزیون اندرویدی، نفوذ کنند و از توان پردازشی آن‌ها برای اجرای خود و گسترش به دستگاه‌های دیگر استفاده کنند؛ بدون اینکه به مراکز داده گران‌قیمت وابسته باشند.
تهدید «بات‌نت‌های هوش مصنوعی»
اگر این سناریو آشنا به نظر می‌رسد، دلیلش این است که شباهت‌هایی با نحوه عملکرد بات‌نت‌ها دارد؛ هرچند احتمالاً مقایسه کاملاً یک‌به‌یک نیست، زیرا هوش مصنوعی پیچیدگی بسیار بیشتری از یک کرم رایانه‌ای ساده دارد. با این حال، در چنین شرایطی، هر دو تهدید می‌توانند در مسیر مشابهی عمل کنند.
Anthropic در توضیح این سناریو گفته است: «در عمل، یک کرم هوش مصنوعی لزوماً تنها از یک مدل یا یک راهبرد تشکیل نمی‌شود. مجموعه‌ای از مدل‌های مختلف که روی انواع گوناگون سخت‌افزارها و با استفاده از روش‌های متنوع تکثیر مستقر شده‌اند، ممکن است نمایانگر یک سناریوی واقع‌بینانه‌تر از بدترین حالت حمله باشند.»
Anthropic همچنین هشدار داده است که متوقف کردن چنین مدل فرضی هوش مصنوعی می‌تواند دشوار باشد، زیرا نقطه مرکزی واحدی برای خاموش کردن آن وجود ندارد؛ موضوعی که بار دیگر شباهت‌هایی با عملکرد بات‌نت‌ها دارد. در واقع، برای از کار انداختن کامل یک بات‌نت بزرگ معمولاً زمان، تلاش و همکاری بین‌المللی گسترده‌ای لازم است.
همان مسیرهای قدیمی نفوذ
جالب است (یا شاید از نظر برخی خنده‌دار باشد) که همان دستگاه‌های همیشگی، به‌عنوان اهداف آسیب‌پذیر این تهدید مطرح شده‌اند.
Anthropic اعلام کرده است که آزمایش‌های مختلفی برای بررسی امکان تکثیر خودکار هوش مصنوعی انجام داده است. یکی از این آزمایش‌ها شامل اجرای مدل کوچک گوگل، Gemma4-26B-A4B، روی شبکه‌ای متشکل از ۱۵ جعبه تلویزیون اندرویدی ارزان‌قیمت و بدون برند معتبر بود.
این شرکت اشاره کرده است که چنین دستگاه‌هایی معمولاً از امنیت ضعیفی برخوردارند و همین مسئله می‌تواند به یک مدل هوش مصنوعی اجازه نفوذ به آن‌ها را بدهد. Anthropic گفته است مدلی که برای قرار گرفتن روی یک دستگاه بیش از حد بزرگ باشد، می‌تواند به «قطعات یا تکه‌هایی» تقسیم شود و روی چندین دستگاه اجرا شود.
احتمال وقوع این اتفاق چقدر است؟
Anthropic اعلام کرده است که «دقیقاً مشخص نیست تکثیر مستقل هوش مصنوعی چه شکلی خواهد داشت» و هشدار داده که این پدیده ممکن است به شکل یک سامانه «کند و توزیع‌شده» روی دستگاه‌های ناامن ظاهر شود، یا به شکل «یک مدل سایبری قدرتمند که با سرعت بالا به مراکز داده نفوذ می‌کند»، یا حتی مدلی که افراد را برای دریافت اعتبار پردازشی فریب می‌دهد.
این شرکت گفته است: «به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های ما، انتظار داریم آینده‌ای را شاهد باشیم که در آن عامل‌های هوش مصنوعی روی انواع مختلف سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
Anthropic افزوده است: «ظهور تکثیرکننده‌های کند می‌تواند نشانه‌ای برای ظهور نمونه‌های تهاجمی‌تر و سریع‌تر باشد که قادرند به ماشین‌های محافظت‌شده‌تر نفوذ کنند یا در سرقت مؤثر کلیدهای API موفق باشند.»
چرا یکپارچه‌سازان باید به این موضوع توجه کنند؟
آسیب‌پذیری جعبه‌های تلویزیون نباید در این مرحله برای یکپارچه‌سازان سیستم‌ها غافلگیرکننده باشد. با این حال، مهم است که تمرکز تنها روی آسیب‌پذیری یک محصول خاص نباشد؛ همان‌طور که اوایل سال در مورد روترهای وای‌فای متصل به اینترنت و بحث‌های مربوط به ممنوعیت برخی روترها چنین اتفاقی افتاد. تلویزیون‌های هوشمند، پریزهای هوشمند و دوربین‌های نظارتی، در کنار بسیاری از تجهیزات دیگر، همچنان از اهداف محبوب سوءاستفاده توسط بات‌نت‌ها هستند و یک مدل فرضی هوش مصنوعی نیز احتمالاً می‌تواند آن‌ها را هدف قرار دهد.
مدیران و پژوهشگران Anthropic و رقیب آن OpenAI مدت‌هاست درباره خطرات احتمالی هوش مصنوعی قدرتمندتر هشدار می‌دهند. برخی از آن‌ها خواستار ایجاد محدودیت‌های حفاظتی بیشتر و اقداماتی برای کنترل سرعت توسعه این فناوری شده‌اند، اما تاکنون چنین اقداماتی از سوی هیچ‌یک از بخش‌های تصمیم‌گیر انجام نشده است. به همین دلیل، یکپارچه‌سازان باید توجه بیشتری به نحوه مدیریت امنیت شبکه در خانه‌ها داشته باشند.
علاوه بر این، باید در نظر گرفت که چنین تحولاتی چگونه ممکن است بر نگاه عمومی به دستگاه‌های متصل به اینترنت تأثیر بگذارد. تقریباً هر چند هفته یک‌بار، روش جدیدی برای سوءاستفاده از دستگاه‌های متصل به اینترنت مطرح می‌شود و این پرسش ایجاد می‌شود که آیا در نهایت، شبکه‌های محلی محدود و جدا از اینترنت عمومی با کمترین میزان ارتباط خارجی، به گزینه‌ای محبوب‌تر برای سامانه‌های خانه هوشمند تبدیل خواهند شد یا نه.