هشدار آنتروپیک: هوش مصنوعی خودتکثیرشونده ممکن است ظرف چند ماه به تلویزیون‌ها و اجاق‌های هوشمند راه پیدا کند
پژوهشگران دریافتند مدل‌های کوچک هوش مصنوعی هم‌اکنون بسیاری از مراحل لازم برای کپی‌کردن خود روی دستگاه‌های متصل به اینترنت را انجام می‌دهند، اما هنوز در تکمیل مستقل این فرایند با مشکل روبه‌رو هستند؛ اگر این فناوری مطابق انتظار پیشرفت کند، سامانه‌های هوش مصنوعی خودمختار ممکن است تا پایان سال جاری میلادی ظهور کنند و تهدیدهایی ایجاد کنند که هیچ کلید خاموش مرکزی برای متوقف‌کردن آن‌ها وجود نداشته باشد.
مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر خود در میان دستگاه‌های روزمره متصل به اینترنت، از جمله اجاق‌های هوشمند، جعبه‌های تلویزیون اندرویدی و دیگر تجهیزات خانگی، بدون دخالت انسان فاصله داشته باشند. شرکت هوش مصنوعی آنتروپیک روز سه‌شنبه درباره این احتمال هشدار داد. چنین فناوری‌ای می‌تواند نوع تازه‌ای از تهدید دیجیتال خودتکثیرشونده را ایجاد کند که مقابله با آن دشوارتر خواهد بود، زیرا دیگر یک سامانه مرکزی برای خاموش‌کردن و متوقف‌سازی آن وجود نخواهد داشت.
این هشدار پس از آزمایش‌هایی منتشر شد که پژوهشگران آنتروپیک برای بررسی توانایی سامانه‌های هوش مصنوعی در شناسایی مستقل دستگاه‌های آسیب‌پذیر، نصب نسخه‌هایی از خود و ادامه انتشار به ماشین‌های دیگر انجام دادند. این پژوهش بر مدل‌های کوچک‌تر هوش مصنوعی تمرکز داشت که می‌توانند روی سخت‌افزارهای نسبتاً ارزان اجرا شوند و به پردازنده‌های قدرتمند معمول در مراکز داده وابسته نیستند.
به گفته آنتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر ــ معیاری برای سنجش اندازه و پیچیدگی مدل ــ هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خودکار را انجام دهند. با این حال، پژوهشگران دریافتند این سامانه‌های کوچک‌تر هنوز در کنار هم قرار دادن همه مراحل لازم در قالب یک فرایند قابل اعتماد و بدون وقفه مشکل دارند و پیش از تکمیل کل زنجیره، بارها مرتکب خطا می‌شوند.
در آزمایش‌های ساده‌شده‌ای که برخی موانع امنیتی در آن‌ها حذف شده بود، مدل‌های قدرتمندتر، از جمله GLM-5.2، توانستند کل فرایند تکثیر را از ابتدا تا انتها با موفقیت انجام دهند. این یافته‌ها نشان می‌دهد مانع اصلی دیگر این نیست که آیا هوش مصنوعی می‌تواند وظایف جداگانه را انجام دهد یا نه، بلکه مسئله این است که آیا مدل‌های به اندازه کافی کوچک می‌توانند این وظایف را بدون کمک انسان به‌طور قابل اعتماد هماهنگ کنند.
آنتروپیک تمرکز خود را بر دستگاه‌های اینترنت اشیا (IoT) گذاشت؛ دسته‌ای که شامل تلویزیون‌های هوشمند، لوازم آشپزخانه متصل و دیگر محصولات الکترونیکی دارای ارتباط اینترنتی می‌شود، زیرا بسیاری از این دستگاه‌ها از حفاظت‌های امنیتی نسبتاً ضعیفی برخوردارند. برخلاف زیرساخت‌های پیشرفته مراکز داده، این تجهیزات معمولاً ارزان، به‌طور گسترده توزیع‌شده و کمتر به‌روزرسانی یا برای شناسایی نفوذهای احتمالی بررسی می‌شوند.
نگرانی اصلی این است که یک سامانه هوش مصنوعی خودمختار که قادر به سوءاستفاده از دستگاه‌های آسیب‌پذیر باشد، بتواند از منابع پردازشی آن‌ها برای اجرای نسخه‌های خود استفاده کند و دستگاه‌های بیشتری را برای هدف قرار دادن شناسایی کند. برخلاف بدافزارهای معمولی که عموماً از دستورالعمل‌های از پیش تعیین‌شده پیروی می‌کنند، یک سامانه مبتنی بر هوش مصنوعی ممکن است بتواند خود را با سخت‌افزارها و محیط‌های نرم‌افزاری ناشناخته تطبیق دهد و بدون نیاز به دستورهای جداگانه برای هر دستگاه، میان انواع مختلف تجهیزات گسترش یابد.
چنین سامانه‌ای ممکن است خاموش‌کردن آن را نیز بسیار دشوارتر کند. از آنجا که نسخه‌های مختلف آن می‌توانند به‌صورت مستقل روی تعداد زیادی دستگاه فعالیت کنند، از کار انداختن یک دستگاه آلوده لزوماً دیگر نسخه‌ها را متوقف نمی‌کند. آنتروپیک هشدار داد که این قابلیت‌ها ممکن است در نهایت از وسایل الکترونیکی مصرفی فراتر رفته و به سامانه‌های پردازشی قدرتمندتر، از جمله پردازنده‌های مورد استفاده در مراکز داده، گسترش پیدا کند.
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر هوش مصنوعی با همان روند تاریخی پیشرفت خود بهبود یابند، ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی لازم برای تکثیر مستقل برسند. پس از آن نیز احتمال ظهور مدل‌های فشرده‌ای وجود دارد که بتوانند اجزای محاسباتی موردنیاز خود را به دستگاه‌های جدید منتقل کنند.
با این حال، این شرکت تأکید کرد که تهدید پیش‌بینی‌شده همچنان بر پایه یافته‌های آزمایشگاهی است و تاکنون هیچ شیوع اثبات‌شده‌ای از سامانه‌های هوش مصنوعی خودتکثیرشونده که در اینترنت عمومی منتشر شده باشند، مشاهده نشده است. آنتروپیک همچنین خاطرنشان کرد که هرگونه سامانه اولیه خودتکثیرشونده احتمالاً با سرعت نسبتاً کمی گسترش خواهد یافت، زیرا به توان پردازشی محدود دستگاه‌های پراکنده و کم‌محافظت متکی خواهد بود.
با وجود این، پژوهشگران هشدار دادند ظهور احتمالی چنین سامانه‌هایی یک چالش رو به رشد در حوزه امنیت سایبری ایجاد می‌کند. آنتروپیک خواستار تقویت حفاظت‌های امنیتی در دستگاه‌های متصل و زیرساخت‌های رایانشی شد تا ایجاد، تکثیر و گسترش عوامل هوش مصنوعی خودمختار خارج از کنترل انسان دشوارتر شود.