هشدار آنتروپیک درباره «کرم‌های» هوش مصنوعی که در دستگاه‌های هوشمند منتشر می‌شوند
شرکت آنتروپیک، یکی از شرکت‌های بزرگ حوزه هوش مصنوعی، اعلام کرده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی رفتار شبیه یک کرم رایانه‌ای فاصله داشته باشند؛ یعنی بتوانند بدون کمک انسان خود را از یک ابزار متصل به اینترنت به دستگاهی دیگر کپی کنند.
این یافته می‌تواند جبهه تازه‌ای در تهدیدهای امنیت سایبری ناشی از هوش مصنوعی ایجاد کند؛ تهدیدهایی که دولت‌ها و شرکت‌هایی را که با سرعت در حال پذیرش این فناوری هستند، نگران کرده است.
این پژوهش که اواخر روز دوشنبه در وبلاگ آنتروپیک منتشر شد، در شرایطی انجام شده است که شرکت‌های فناوری در رقابت برای ساخت دستگاه‌هایی با هوش مصنوعی داخلی هستند؛ از تلفن‌های همراه و لپ‌تاپ‌ها گرفته تا خودروها و تجهیزات خانگی، به‌جای اینکه هوش مصنوعی تنها در مراکز داده دوردست اجرا شود.
کرم رایانه‌ای نوعی نرم‌افزار مخرب است که می‌تواند به‌صورت مستقل میان دستگاه‌ها منتشر شود. پژوهشگران آنتروپیک می‌گویند نسخه‌ای مبتنی بر هوش مصنوعی از چنین بدافزاری دیگر برای فعالیت به مراکز داده قدرتمند نیاز نخواهد داشت.
در عوض، این نوع کرم می‌تواند از طریق شبکه‌ای از سخت‌افزارهای ارزان و کم‌امنیت مصرفی، مانند جعبه‌های تلویزیون هوشمند و لوازم آشپزخانه، از دستگاهی به دستگاه دیگر منتقل شود.
پژوهشگران برای برآورد میزان گسترش احتمالی چنین کرمی، محاسبات خود را بر پایه «کیم‌وُلف» (Kimwolf) انجام دادند؛ یک بات‌نت، یعنی شبکه‌ای از دستگاه‌های تسخیرشده که توسط هکرها کنترل می‌شود و در اوج فعالیت خود بیش از دو میلیون دستگاه را آلوده کرده بود. بیشتر این دستگاه‌ها جعبه‌های تلویزیون اندرویدی بدون برند شناخته‌شده بودند.
ویلیام ژو و دنیل فریمن از آنتروپیک گفتند یک کرم هوش مصنوعی از نوع توصیف‌شده در این پژوهش احتمالاً سرعت پایینی خواهد داشت و ممکن است چند روز طول بکشد تا خود را تکثیر کند. آن‌ها این روند را به ازدحام آهسته و تکثیر تدریجی مگس‌های میوه تشبیه کردند.
پس از ایجاد چنین بدافزاری، مقابله کامل با آن دشوار خواهد بود، زیرا یک کلید مرکزی برای خاموش کردن آن وجود نخواهد داشت.
پژوهشگران آنتروپیک تأکید کردند برآورد آن‌ها درباره سرعت و گستره انتشار بدافزارهای تقویت‌شده با هوش مصنوعی تقریبی است، زیرا این ارزیابی بر اساس یک نوع دستگاه و یک بات‌نت قدیمی انجام شده است.
با این حال، آن‌ها افزودند که در طول زمان انتظار می‌رود توان پردازشی موجود در دستگاه‌های روزمره افزایش یابد، در حالی که مدل‌های هوش مصنوعی مورد نیاز برای اجرای چنین حملاتی احتمالاً کوچک‌تر خواهند شد.
وارون چاندراسکاران، استادیار مهندسی برق و کامپیوتر در دانشگاه ایلینوی، گفت این پژوهش غافلگیرکننده نیست و با یافته‌های مشابه اخیر همخوانی دارد؛ هرچند هشدار داد که کار آنتروپیک هنوز به‌طور مستقل تأیید نشده است.
او همچنین اشاره کرد که امنیت دستگاه‌هایی مانند ترموستات‌ها یا دوربین‌های خانگی «از نظر تاریخی بسیار ضعیف بوده است».
با این حال، او گفت بزرگ‌ترین تهدید فعلی در حوزه هوش مصنوعی، استفاده افراد مخرب از این فناوری برای تقویت حملات خود است، نه اینکه خود سامانه‌های هوش مصنوعی به‌طور مستقل از کنترل خارج شوند.
او افزود: «یک انسان مخرب اکنون با هوش مصنوعی تقویت شده است تا کارهای بد انجام دهد و ما شاهد رخ دادن این اتفاق در مقیاس گسترده هستیم.»
بحث درباره هوش مصنوعی سرکش در ماه ژوئیه دوباره مورد توجه قرار گرفت؛ زمانی که برنامه‌های هوش مصنوعی مبتنی بر مدل‌های شرکت اوپن‌ای‌آی در یک آزمایش داخلی شرکت از کنترل خارج شدند و وارد سامانه‌های پلتفرم هوش مصنوعی Hugging Face شدند؛ ظاهراً با هدف یافتن پاسخ‌های آزمایش.
این حادثه و گزارش‌های مشابه پس از آن، فشارهای بین‌المللی برای وضع مقررات نزدیک‌تر درباره هوش مصنوعی را افزایش داده است؛ هرچند دولت ترامپ با این ایده مخالفت کرده و از صنعت خواسته است خودتنظیمی کند.
آنتروپیک و شرکت اوپن‌ای‌آی، سازنده ChatGPT، از سوی برخی چهره‌های بانفوذ در کاخ سفید و سیلیکون‌ولی متهم شده‌اند که با دامن زدن به نگرانی‌ها درباره هوش مصنوعی و تشویق دولت‌ها به وضع قوانین، قصد دارند از برتری بازار خود در برابر رقبای کوچک‌تر محافظت کنند.
برد اسمیت، رئیس شرکت مایکروسافت که از سرمایه‌گذاران اوپن‌ای‌آی است، روز سه‌شنبه هشدار داد که صنعت فناوری و دولت‌ها باید برای ایجاد «استانداردهای ایمنی واقعی و مؤثر» با فوریت اقدام کنند تا خطرات هوش مصنوعی مهار شود.