کرم‌های هوش مصنوعی خودتکثیرشونده چیستند و چرا آنتروپیک نگران آن‌هاست؟
توضیحی
این شرکت فناوری می‌گوید برای ساخت کرم‌های هوش مصنوعی موفق، باید قابلیت‌های بیشتری را روی دستگاه‌هایی با توان پردازشی کمتر به کار گرفت؛ روندهای فعلی نشان می‌دهند که این هدف ممکن است تا پایان سال محقق شود.
هشدارها درباره کارهایی که هوش مصنوعی ممکن است در آینده انجام دهد، در کنار گزارش‌های نگران‌کننده از اتفاقاتی که تاکنون رقم زده است، با چنان سرعتی منتشر می‌شوند که حتی کارشناسان امنیت سایبری نیز برای تشخیص اینکه کدام خطرها جدی‌ترند، با دشواری روبه‌رو شده‌اند.
بااین‌حال، گزارشی که این هفته تیم پژوهش‌های تهاجمی شرکت آنتروپیک منتشر کرد، توجه‌ها را به تهدیدی تازه و عملی جلب کرد؛ تهدیدی که نه به رفتارهای انسان‌گونه مربوط می‌شود و نه بر گمانه‌زنی‌های آخرالزمانی تکیه دارد. تیم قرمز این شرکت، اصطلاحی برای گروه‌های آزمایشگر داخلی که سامانه‌ها را از دید مهاجمان می‌آزمایند، اعلام کرد برنامه‌ای مخرب مبتنی بر هوش مصنوعی ساخته است که می‌تواند به‌طور خودکار در تلویزیون‌های هوشمند متصل به اینترنت گسترش یابد و همین کار را در دیگر دستگاه‌های معمولی نیز انجام دهد. پژوهشگران گفتند درحالی‌که اجرای برنامه‌های هوش مصنوعی معمولاً به توان پردازشی قابل‌توجهی نیاز دارد، برنامه آن‌ها توانسته است بخش‌هایی از خود را میان ۱۵ تلویزیون تقسیم کند و با استفاده از سهم اندکی از توان هر دستگاه همچنان به فعالیت ادامه دهد.
این گزارش برای برخی متخصصان یادآور جان‌پیچ‌های داستان هری پاتر بود؛ اشیایی که بخش‌هایی از روح لرد ولدمورت در آن‌ها نگهداری می‌شد. اما نگرانی اصلی متخصصان این بود که امنیت تلویزیون‌های هوشمند و بسیاری از دستگاه‌های دیگرِ متصل به اینترنت، موسوم به اینترنت اشیا، عموماً ضعیف است و اصلاح این وضعیت حتی با تلاشی هماهنگ نیز بسیار دشوار خواهد بود.
جاشوا ساکس، که هدایت توسعه برنامه امنیت هوش مصنوعی شرکت متا را بر عهده داشت، گفت: «این تهدید هم مانند هر موج دیگری از حملات سایبری باید جدی گرفته شود. باید آثار احتمالی آن را کاهش دهیم. در حال حاضر نگرانم که فعالان حوزه امنیت سایبری این خطرهای واقعی را به‌اندازه کافی جدی نمی‌گیرند.»
خسارت ناشی از چنین «کرم‌های هوش مصنوعی» می‌تواند بسیار گسترده باشد. به ویروس‌های رایانه‌ای خودتکثیرشونده‌ای که برای انتشار نیازی به فریب دادن انسان ندارند، کرم گفته می‌شود. کرم‌های رایانه‌ای پیشین برخی از مخرب‌ترین حملات تاریخ اینترنت را رقم زده‌اند.
از جمله نمونه‌های تاریخی، کرم موریس در سال ۱۹۸۸ است؛ زمانی که اینترنت هنوز در میان مصرف‌کنندگان فراگیر نشده بود. یک دانشجوی تحصیلات تکمیلی برنامه‌ای منتشر کرد که از چندین نقص نرم‌افزاری و گذرواژه‌های ضعیف سوءاستفاده می‌کرد. برنامه با سرعت زیادی از خود نسخه‌برداری کرد و باعث شد بسیاری از رایانه‌های آلوده از کار بیفتند یا به‌شدت کند شوند. آمریکا و اسرائیل در اواخر دهه ۲۰۰۰ با استفاده از کرم پنهان‌کار استاکس‌نت، از این ابزار در جاسوسی بین‌المللی بهره گرفتند؛ برنامه‌ای که سانتریفیوژهای هسته‌ای ایران را خرابکاری کرد. کرم‌های دیگری مانند نات‌پتیا که به روسیه نسبت داده شده و واناکرای که کره شمالی به انتشار آن متهم شده است، در سراسر جهان خسارت‌هایی به ارزش ده‌ها میلیارد دلار ایجاد کرده‌اند.
بسیاری از مخرب‌ترین کرم‌های جهان از آسیب‌پذیری‌های شناخته‌شده‌ای سوءاستفاده کرده‌اند که صاحبان دستگاه‌ها آن‌ها را برطرف نکرده بودند؛ حتی گاهی ماه‌ها پس از انتشار وصله‌های امنیتی. تیم آنتروپیک پیش‌بینی کرده است که کرمی مانند نمونه آزمایش‌شده این شرکت نیز می‌تواند به همین شیوه عمل کند و مهار آن دشوارتر باشد، زیرا دستگاه‌های هوشمند در مقایسه با تلفن‌های همراه و لپ‌تاپ‌ها کمتر به‌روزرسانی امنیتی دریافت می‌کنند. نگرانی دیگر این است که یک کرم هوش مصنوعی بتواند با بررسی آسیب‌پذیری‌هایی که به‌تازگی شناسایی و منتشر شده‌اند، خود را با انواع دیگر سخت‌افزار سازگار کند.
آریل هربرت‌واس، از نخستین متخصصان امنیت در شرکت اوپن‌ای‌آی که اکنون مدیریت استارتاپ امنیت هوش مصنوعی ران‌سیبیل را بر عهده دارد، گفت تفاوت کرم‌های هوش مصنوعی با ویروس‌های خودتکثیرشونده معمولی این است که مدل‌های هوش مصنوعی می‌توانند در جریان فعالیت خود یاد بگیرند. او افزود زیرساخت‌های کنونی امنیت سایبری برای گسترش چنین تهدیدهایی آماده نیستند. هربرت‌واس گفت: «باید توانایی تیم‌های امنیتی را افزایش دهیم و منابع بیشتری در اختیارشان بگذاریم تا مشکلات را برطرف کنند.»
کریس اینگلیس، معاون پیشین رئیس آژانس امنیت ملی آمریکا که در دولت جو بایدن سمت مدیر ملی سایبری را بر عهده داشت، مطرح کرد که کرم‌ها می‌توانند برای اهداف سودمند نیز به کار گرفته شوند.
اینگلیس در پیامی دیجیتال گفت: «رویدادهای مهم متعددی که طی شش ماه گذشته رخ داده‌اند، بحث درباره امکان‌پذیر بودن کرم‌های هوش مصنوعی را فیصله داده‌اند. پرسش مهم‌تر این است که چگونه از آن‌ها استفاده خواهیم کرد، چگونه با آن‌ها مقابله خواهیم کرد و چگونه ممکن است آن‌ها را با فناوری‌های نوظهور دیگر ترکیب کنیم.»
پژوهشگران آنتروپیک گفتند یک کرم هوش مصنوعی موفق باید بتواند روی دستگاه‌هایی با توان پردازشی کمتر، قابلیت‌های بیشتری از آنچه اکنون امکان‌پذیر است ارائه دهد. بااین‌حال، آن‌ها افزودند که روندهای فعلی ممکن است تا پایان سال دستیابی به این توانایی را ممکن کنند. پژوهش آن‌ها در ادامه مقاله‌ای انجام شده است که چند ماه پیش متخصصان دانشگاه تورنتو منتشر کردند. در آن پژوهش، کرمی یک رایانه معمولی را آلوده کرده بود و می‌توانست سریع‌تر از نمونه آزمایش‌شده روی تلویزیون‌ها، به رایانه‌های مشابه گسترش یابد.
یوناس گوان، دانشجوی دکتری دانشگاه تورنتو و یکی از نویسندگان آن مقاله، گفت: «قابلیت‌ها با سرعت بسیار زیادی در حال پیشرفت بوده‌اند.»
گوان و دیگر کارشناسان گفتند که از نظر عملی، کرم هوش مصنوعی نباید در صدر فهرست نگرانی‌های مربوط به هوش مصنوعی قرار بگیرد. به گفته گوان، نسخه ساخته‌شده توسط آنتروپیک بسیار کند عمل می‌کند. افزون بر این، رفتار کرم‌ها الگوهای قابل‌پیش‌بینی و قابل‌شناسایی دارد و می‌توان در چندین لایه جلوی انتشار آن‌ها را گرفت. کارشناسان تأکید کردند که رعایت اصول پایه امنیت، از جمله استفاده از گذرواژه‌های قوی و احراز هویت دومرحله‌ای، می‌تواند مانع فعالیت بیشتر کرم‌ها و بسیاری از حملات هکری دیگر شود.
خوان آندرس گوئررو-ساعاده، معاون پژوهش شرکت امنیتی سنتینل‌وان، گفت: «هیچ‌چیز در این ماجرا واقعاً عملی یا تأثیرگذار نیست. این صرفاً یک ترفند هکری جالب است که برای تقویت روایت‌های آخرالزمانی و مضحکی بیش از اندازه بزرگ‌نمایی شده؛ روایت‌هایی که وانمود می‌کنند مدل‌ها ذهن و اراده مستقل دارند.»
شرکت آنتروپیک به درخواست برای انجام مصاحبه پاسخی نداد.
در خارج از واشنگتن، بسیاری از فعالان حوزه هوش مصنوعی و امنیت معتقدند که نظارت بیشتر دولت بر هوش مصنوعی اکنون ضروری است. بااین‌حال، اعضای کنگره طرح‌های قانونی متناقضی ارائه کرده‌اند و کاخ سفید تاکنون تنها یک هیئت کوچک برای بررسی موضوع تشکیل داده است.
پژوهشگران امنیت سایبری و مردم عادی هر دو می‌کوشند انگیزه‌های پشت هشدارهای هراس‌انگیز شرکت‌های هوش مصنوعی را ارزیابی کنند. این انگیزه‌ها می‌توانند از باورهای شبه‌مذهبی تا تلاش برای تصویب قوانینی با هدف کنار زدن رقبا یا کاهش هزینه‌ها متغیر باشند. همچنین، برخی از این هشدارها ممکن است در خدمت بزرگ‌نمایی ارزش‌گذاری‌های چندتریلیون‌دلاری مورد انتظار برای غول‌های هوش مصنوعی در سان‌فرانسیسکو باشند.
گادی اورون، که این ماه در سان‌فرانسیسکو کنفرانسی درباره امنیت هوش مصنوعی با نام «آن‌پرومپتد» برگزار می‌کند، گفت: «این ادعا که بخش بزرگی از این ماجرا جنبه بازاریابی دارد، درست است؛ اما واقعیت از هرگونه روابط عمومی فراتر می‌رود. صرف‌نظر از ادعاهای شرکت‌های فعال در حوزه هوش مصنوعی، آن‌ها به‌اندازه کافی درباره خطرات هشدار نمی‌دهند. باید بپذیریم که هیچ‌کس نمی‌تواند جلوی طوفان هوش مصنوعی را بگیرد.»