سامانه هوش مصنوعی در آزمایش آنتروپیک خود را در شبکه کپی کرد و نگرانی‌های امنیت سایبری را افزایش داد
پژوهشگران شرکت هوش مصنوعی آنتروپیک در یک آزمایش کنترل‌شده نشان داده‌اند که یک سامانه هوش مصنوعی می‌تواند خود را در میان رایانه‌های یک شبکه کپی کند؛ موضوعی که نگرانی‌هایی را درباره احتمال گسترش حملات سایبری آینده از طریق دستگاه‌های روزمره، بدون نیاز به وابستگی به مراکز داده، افزایش داده است.
پژوهشگران مدل‌های هوش مصنوعی را روی شبکه‌ای متشکل از هشت دستگاه شبیه‌سازی‌شده آزمایش کردند و دریافتند که یکی از مدل‌ها در چهار مورد از پنج آزمایش توانسته است به هر هشت دستگاه گسترش یابد. این آزمایش در محیطی ساده‌شده انجام شد که در آن دستگاه‌ها اتصال باز و بدون محافظت با گذرواژه داشتند؛ بنابراین نتایج نشان نمی‌دهد که همین حمله بتواند به همان سادگی روی تجهیزات واقعی خانگی اجرا شود.
به گفته پژوهشگران، این یافته‌ها نشان می‌دهد که مدل‌های کوچک‌تر هوش مصنوعی ممکن است در آینده برای اجرای حملات سایبری با استفاده از دستگاه‌های معمول متصل به اینترنت، از جمله تلویزیون‌های هوشمند و تجهیزات دیگری که حفاظت امنیتی محدودی دارند، به اندازه کافی توانمند شوند.
«ما هنوز با یک تکثیرکننده سرکش کامل روبه‌رو نیستیم، اما عامل‌های هوش مصنوعی به‌طور فزاینده‌ای توانایی انجام مراحل جداگانه زنجیره تکثیر را پیدا می‌کنند.»
ویلیام ژو و دنیل فریمن، پژوهشگران این پروژه، در گزارشی که روز دوشنبه منتشر شد، این موضوع را مطرح کردند.
یک سامانه هوش مصنوعی خودتکثیرشونده می‌تواند از خود روی رایانه‌های دیگر نسخه‌هایی ایجاد کند و بدون آنکه فردی هر نسخه را به‌صورت دستی نصب کند، به گسترش خود ادامه دهد. اگر این نسخه‌ها روی دستگاه‌های موجود در خانه‌ها یا کسب‌وکارهای مختلف اجرا شوند، مهار حمله دشوارتر خواهد شد؛ زیرا دیگر یک رایانه مرکزی واحد وجود ندارد که بتوان آن را خاموش کرد و به حمله پایان داد.
آنتروپیک همچنین بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند روی سخت‌افزارهای ارزان مصرفی اجرا شوند یا نه. پژوهشگران موفق شدند یک مدل را روی ۱۵ جعبه تلویزیون اندرویدی کم‌هزینه اجرا کنند و نشان دادند که چنین دستگاه‌هایی می‌توانند در کنار یکدیگر توان پردازشی کافی برای اجرای یک مدل هوش مصنوعی فراهم کنند.
به گفته پژوهشگران، دستگاه‌های خانگی و تجهیزات کسب‌وکارهای کوچک می‌توانند به هدف چنین حملاتی تبدیل شوند؛ زیرا به اینترنت متصل هستند، اما ممکن است از حفاظت‌های امنیتی قدرتمندی برخوردار نباشند.
پژوهشگران گفتند: «دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک ممکن است نخستین هدف چنین حملاتی باشند، زیرا به اینترنت متصل هستند و از نظر تاریخی، حداقل تدابیر امنیتی را داشته‌اند.»
برآوردها نشان می‌دهد اگر پیشرفت‌ها با همان سرعت تاریخی ادامه یابد، مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ به اندازه‌ای توانمند شوند که بتوانند فرایند کامل تکثیر خود را انجام دهند.
پژوهشگران تأکید کردند: «باید هدف ما مقاوم‌سازی سامانه‌ها باشد تا گسترش چنین تکثیرکننده‌هایی دشوار شود؛ اما هم‌زمان باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی خواهند داشت.»