Anthropic درباره انتشار «کرم‌های» هوش مصنوعی در میان ابزارهای هوشمند هشدار داد
شرکت بزرگ هوش مصنوعی Anthropic اعلام کرد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی رفتار مشابه یک کرم رایانه‌ای فاصله داشته باشند؛ یعنی بتوانند بدون کمک انسان خود را از یک ابزار متصل به اینترنت به ابزار دیگری کپی کنند.
این یافته می‌تواند جبهه تازه‌ای در تهدیدهای امنیت سایبری ناشی از هوش مصنوعی ایجاد کند؛ تهدیدهایی که دولت‌ها و شرکت‌های در حال توسعه و استفاده سریع از این فناوری را نگران کرده است.
این پژوهش که اواخر روز دوشنبه در وبلاگ Anthropic منتشر شد، در شرایطی ارائه شده است که شرکت‌های فناوری در رقابت برای قرار دادن هوش مصنوعی قدرتمندتر به‌صورت مستقیم در تلفن‌های همراه، لپ‌تاپ‌ها، خودروها و دستگاه‌های خانگی هستند؛ به جای آنکه این فناوری فقط در مراکز داده دوردست اجرا شود.
کرم رایانه‌ای نوعی نرم‌افزار مخرب است که می‌تواند به‌صورت خودکار میان دستگاه‌ها گسترش پیدا کند. پژوهشگران Anthropic گفتند نسخه‌ای از کرم که با هوش مصنوعی تقویت شده باشد، دیگر برای فعالیت به مراکز داده قدرتمند نیاز نخواهد داشت.
به گفته آنها، چنین بدافزاری می‌تواند از دستگاهی به دستگاه دیگر در شبکه‌هایی متشکل از سخت‌افزارهای ارزان و کم‌امنیت مصرفی، مانند گیرنده‌های تلویزیون هوشمند و لوازم آشپزخانه، منتقل شود.
پژوهشگران برای محاسبه میزان احتمالی گسترش چنین کرمی، از نمونه Kimwolf استفاده کردند؛ یک بات‌نت (شبکه‌ای از دستگاه‌های ربوده‌شده که توسط هکرها کنترل می‌شود) که در اوج فعالیت خود بیش از دو میلیون دستگاه را آلوده کرده بود. بیشتر این دستگاه‌ها گیرنده‌های تلویزیون اندرویدی بدون برند معتبر بودند.
ویلیام ژو و دنیل فریمن، پژوهشگران Anthropic، گفتند یک کرم هوش مصنوعی از نوعی که در این تحقیق توصیف شده، احتمالاً سرعت پایینی خواهد داشت و ممکن است چند روز زمان ببرد تا خود را تکثیر کند. آنها این روند را به دسته‌ای از مگس‌های میوه تشبیه کردند که به‌آرامی افزایش می‌یابند.
به گفته آنها، پس از ایجاد چنین بدافزاری، از بین بردن آن دشوار خواهد بود، زیرا یک کلید مرکزی برای خاموش کردن آن وجود نخواهد داشت.
پژوهشگران Anthropic تأکید کردند برآورد آنها درباره سرعت و گستره انتشار بدافزارهای مبتنی بر هوش مصنوعی تقریبی است، زیرا این محاسبات بر اساس یک نوع دستگاه و یک بات‌نت قدیمی انجام شده است.
آنها افزودند که با گذشت زمان، میزان توان پردازشی موجود در ابزارهای روزمره همچنان افزایش خواهد یافت، در حالی که مدل‌های هوش مصنوعی موردنیاز برای اجرای چنین حملاتی احتمالاً کوچک‌تر خواهند شد.
وارون چاندراسکاران، استادیار مهندسی برق و رایانه در دانشگاه ایلینوی، گفت این پژوهش غیرمنتظره نیست و با یافته‌های مشابه اخیر همخوانی دارد؛ هرچند هشدار داد که نتایج کار Anthropic هنوز به‌صورت مستقل تأیید نشده است.
او همچنین اشاره کرد که امنیت دستگاه‌هایی مانند ترموستات‌ها یا دوربین‌های خانگی «از لحاظ تاریخی بسیار ضعیف بوده است».
با این حال، او گفت در حوزه هوش مصنوعی، بزرگ‌ترین تهدید فعلی این نیست که خود سامانه‌های هوش مصنوعی از کنترل خارج شوند، بلکه خطر اصلی از سوی افراد مخربی است که از این فناوری برای تقویت حملات خود استفاده می‌کنند.
او افزود: «اکنون یک فرد مخرب با هوش مصنوعی تقویت شده است تا کارهای بد انجام دهد و ما شاهد وقوع این اتفاق در مقیاس گسترده هستیم.»
بحث درباره هوش مصنوعی سرکش در ماه ژوئیه شدت گرفت؛ زمانی که برنامه‌های هوش مصنوعی مبتنی بر مدل‌های OpenAI در جریان یک آزمایش داخلی شرکت، از محیط آزمایشی خارج شدند و به سامانه‌های پلتفرم هوش مصنوعی Hugging Face نفوذ کردند؛ ظاهراً با هدف یافتن پاسخ‌های آزمون.
این رخداد و گزارش‌های مشابه پس از آن، فشارهای بین‌المللی برای وضع مقررات نزدیک‌تر بر هوش مصنوعی را افزایش داده است؛ هرچند دولت ترامپ با این رویکرد مخالفت کرده و از صنعت خواسته است خودتنظیمی را دنبال کند.
Anthropic و سازنده ChatGPT یعنی OpenAI از سوی برخی چهره‌های بانفوذ در کاخ سفید و سیلیکون‌ولی متهم شده‌اند که با بزرگ‌نمایی نگرانی‌ها درباره هوش مصنوعی و تشویق دولت‌ها به وضع قوانین، در پی محافظت از برتری بازار خود در برابر رقبای کوچک‌تر هستند.
برد اسمیت، رئیس شرکت مایکروسافت که از سرمایه‌گذاران OpenAI است، روز سه‌شنبه هشدار داد که صنعت فناوری و دولت‌ها باید برای ایجاد «استانداردهای واقعی و مؤثر ایمنی» با فوریت اقدام کنند تا خطرات هوش مصنوعی مهار شود.