آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است خود را تکثیر کنند؛ آنچه باید بدانید
مجریان برنامه «The 8:30 Hosts» شامل جولی هیمن، پراس سابرامانیان و جیک کانلی درباره هشدار اخیر آنتروپیک در مورد خطرات احتمالی مدل‌های هوش مصنوعی صحبت کردند.
آنتروپیک اواخر روز گذشته هشداری منتشر کرد مبنی بر اینکه این مدل‌های هوش مصنوعی می‌توانند در دستگاه‌های اینترنت اشیا (IoT) مانند تلویزیون‌های اندرویدی، یخچال‌های هوشمند سامسونگ و دیگر دستگاه‌های متصل نفوذ کنند. این مدل‌ها ممکن است از توان پردازشی این دستگاه‌ها استفاده کنند تا خودشان را اجرا کرده و در شرایط خاص، خود را تکثیر کنند.
مجریان توضیح دادند اگر چنین اتفاقی رخ دهد و یک سیستم هوش مصنوعی از کنترل خارج شود، خاموش‌کردن آن می‌تواند «چالش‌برانگیز» باشد؛ زیرا دیگر یک نقطه کنترل مرکزی برای قطع فعالیت آن وجود نخواهد داشت. در چنین شرایطی، این سیستم‌ها ممکن است به شکل تهاجمی و بدون مجوز کاربر به دستگاه‌های دیگر نفوذ کنند.
یکی از مجریان اشاره کرد که این سناریو لزوماً درباره محصولاتی مانند Apple TV نیست، زیرا محصولات اپل معمولاً از نظر امنیتی محدودیت‌های بیشتری دارند، اما دستگاه‌های دیگری مانند مودم‌های اینترنتی می‌توانند هدف قرار گیرند.
مجری دیگری برای روشن‌تر شدن موضوع گفت آنتروپیک ظاهراً نمی‌گوید که این اتفاق اکنون رخ داده یا مدل‌های هوش مصنوعی فعلی به‌طور خودکار از کنترل خارج می‌شوند. منظور این است که افراد مخرب، در صورت تلاش برای انجام چنین حمله‌ای، ممکن است از این روش استفاده کنند. حتی اگر تلاش شود سیستم از منبع اصلی در مرکز داده خاموش شود، یک «کلید قطع اضطراری» ممکن است در صورت ادامه داشتن حمله هکری همیشه مؤثر نباشد؛ زیرا عامل مهاجم می‌تواند به دستگاه‌های خانگی منتقل شده باشد.
او افزود هکرها پیش از این نیز با ویروس‌ها می‌توانستند به انواع دستگاه‌ها نفوذ کنند و حملاتی مانند حملات منع سرویس توزیع‌شده (DDoS) انجام دهند، اما تفاوت این سناریو در این است که عامل‌های هوش مصنوعی ممکن است بتوانند خود را تکثیر کنند و در نتیجه آسیب احتمالی بیشتری ایجاد کنند.
یکی دیگر از کارشناسان حاضر در گفتگو گفت دستگاه‌های اینترنت اشیا هم‌اکنون نیز اهداف بزرگی برای سرویس‌های امنیتی دولتی هستند که تلاش می‌کنند به افراد یا سازمان‌های خاص دسترسی پیدا کنند. نگرانی اصلی این است که اگر چنین قابلیت‌هایی با یک سیستم هوش مصنوعی عامل‌محور ترکیب شود، دامنه این تهدید افزایش پیدا کند.
در ادامه گفتگو به یک حمله سایبری گسترده در فرانسه و احتمالاً هلند اشاره شد. به گفته یکی از کارشناسان، یک گروه ناشناس هکری ظاهراً به سیستم‌های فروشگاه‌های مواد غذایی و سامانه‌های سرمایشی آن‌ها نفوذ کرده بود و با افزایش دما یا خاموش‌کردن سیستم انجماد، باعث فاسدشدن کالاها شد. کارکنان فروشگاه‌ها در پاریس و شهرهای اطراف هنگام باز کردن یخچال‌ها با موج هوای گرم مواجه شدند و این حمله میلیون‌ها دلار خسارت به بار آورد.
این کارشناس گفت این یک تهدید جدی است. او افزود این موضوع تنها چند هفته پس از گزارشی از سرویس امنیتی هلند مطرح می‌شود که در آن به همین نگرانی اشاره شده بود: هکرها می‌توانند به خودروها و وسایل نقلیه هوشمند دسترسی پیدا کنند. به گفته او، درباره هر خودروی هوشمند، از جمله خودروهای تسلا یا دیگر خودروهای دارای سامانه‌های متصل، باید فرض را بر این گذاشت که سیستم همواره در حال شنود و ارسال اطلاعات به یک مرکز متمرکز است.