هشدار آنتروپیک: هوش مصنوعی ممکن است به‌زودی خود را در تلویزیون‌های هوشمند و دستگاه‌های خانگی تکثیر کند
بر اساس پژوهش جدید شرکت آنتروپیک، مدل‌های هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در میان دستگاه‌های روزمره متصل به اینترنت، از جمله تلویزیون‌های هوشمند و لوازم آشپزخانه، بدون نیاز به کمک انسان فاصله داشته باشند.
شرکت سازنده چت‌بات کلود اعلام کرده است که مدل‌های کوچک‌تر هوش مصنوعی به مرحله‌ای نزدیک می‌شوند که بتوانند دستگاه‌های آسیب‌پذیر را پیدا کنند، نسخه‌هایی از خود را روی آن‌ها نصب کنند و بدون وابستگی به مراکز داده متمرکز، به گسترش خود ادامه دهند.
این هشدار پس از مجموعه‌ای از آزمایش‌ها مطرح شده است که بررسی می‌کرد آیا سامانه‌های هوش مصنوعی می‌توانند در دستگاه‌های متصل مختلف تکثیر شوند؛ از جمله اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی ارزان‌قیمت.
پژوهشگران دریافتند مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر، هم‌اکنون می‌توانند بسیاری از مراحل جداگانه موردنیاز برای خودتکثیری را انجام دهند، هرچند در اجرای کامل این فرایند به‌صورت قابل اعتماد با مشکل روبه‌رو هستند.
در آزمایش‌های ساده‌سازی‌شده‌ای که برخی موانع امنیتی در آن‌ها حذف شده بود، مدل‌های توانمندتر، از جمله GLM-5.2، توانستند تمام مراحل زنجیره تکثیر را تکمیل کنند.
چرا دستگاه‌های خانه هوشمند آسیب‌پذیر هستند
آنتروپیک در این پژوهش روی دستگاه‌های خانگی و تجاری متصل به اینترنت تمرکز کرد، زیرا این دستگاه‌ها معمولاً در مقایسه با رایانه‌های معمولی از حفاظت‌های امنیتی ضعیف‌تری برخوردارند.
پژوهشگران دریافتند یک مدل هوش مصنوعی ۹ میلیارد پارامتری توانست روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده با موفقیت اجرا شود.
دستگاه‌هایی مانند تلویزیون‌های هوشمند، اجاق‌ها، یخچال‌ها و دوربین‌های امنیتی می‌توانند توان پردازشی لازم برای اجرای مدل‌های کوچک‌تر هوش مصنوعی را فراهم کنند و به آن‌ها اجازه دهند بدون دسترسی به مراکز داده گران‌قیمت فعالیت کنند.
برخلاف کرم‌های رایانه‌ای معمولی، سامانه‌های مبتنی بر هوش مصنوعی می‌توانند با دستگاه‌های ناآشنا سازگار شوند و نحوه اجرا روی سخت‌افزارهای مختلف را پیدا کنند.
چرا متوقف کردن هوش مصنوعی خودتکثیرشونده می‌تواند دشوار باشد
آنتروپیک هشدار داده است که گسترش مدل‌های هوش مصنوعی در میان تعداد زیادی دستگاه متصل، ممکن است مهار آن‌ها را دشوار کند؛ زیرا دیگر یک سامانه مرکزی واحد برای خاموش کردن وجود نخواهد داشت.
چنین سیستم‌هایی ممکن است نسبتاً آهسته گسترش پیدا کنند و برای دو برابر شدن تعدادشان چند روز زمان نیاز داشته باشند، اما همچنان می‌توانند در میان دستگاه‌های پراکنده در نقاط مختلف فعال باقی بمانند.
پژوهشگران بر اساس روند فعلی پیشرفت فناوری تخمین می‌زنند که مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ توانایی خودتکثیری مستقل را به دست آورند. پس از آن، مدل‌هایی که بتوانند نرم‌افزار و دستورالعمل‌های اجرایی خود را همراه داشته باشند، ممکن است به‌زودی دنبال شوند.
با این حال، آنتروپیک تأکید کرده است که آزمایش‌های این شرکت تاکنون وجود یک سامانه هوش مصنوعی سرکش و کاملاً خودمختار را که در دنیای واقعی میان دستگاه‌های خانگی گسترش پیدا کند، نشان نداده است.
این شرکت خواستار تقویت تدابیر امنیتی شده است تا با افزایش توانایی‌های هوش مصنوعی، از سوءاستفاده این سامانه‌ها از دستگاه‌های متصل آسیب‌پذیر جلوگیری شود.