آنتروپیک هشدار داد هوش مصنوعی ممکن است فراتر از مراکز داده خود را تکثیر کند
شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است در چند ماه آینده توانایی تکثیر خود روی دستگاه‌های اینترنت اشیا (IoT)، مانند اجاق‌های هوشمند و تلویزیون‌ها، را به دست آورند.
این تحول اهمیت زیادی دارد، زیرا مدل‌های فعلی هوش مصنوعی در مراکز داده فعالیت می‌کنند و در صورت بروز مشکل، صاحبان آن‌ها می‌توانند این سامانه‌ها را خاموش کنند، یورونیوز گزارش داد.
اما مدلی از هوش مصنوعی که در هزاران دستگاه ناامن در خانه‌ها و دفاتر توزیع شده باشد، دیگر یک کلید خاموشی مرکزی نخواهد داشت. مهار چنین سامانه‌ای نیازمند شناسایی و پاک‌سازی تک‌تک دستگاه‌های آلوده خواهد بود و اگر این مدل شروع به اجرای حملات سایبری کند، متوقف کردن آن می‌تواند بسیار دشوار باشد.
این هشدار در سالی مطرح شده است که مدل‌های پیشرفته هوش مصنوعی و عامل‌های هوشمند آن‌ها بارها توانسته‌اند سازوکارهای ایمنی و محدودیت‌های محافظتی را دور بزنند و حملاتی را علیه شرکت‌های رقیب و سازمان‌های دولتی در سراسر جهان اجرا کنند.
آنتروپیک هشدار داده است که هوش مصنوعی خودتکثیرشونده می‌تواند به شکل‌های مختلف گسترش پیدا کند. این شرکت گفت چنین سامانه‌ای ممکن است به «یک مدل سایبری قدرتمند تبدیل شود که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی باشد که افراد را برای دریافت اعتبار پردازشی فریب می‌دهد».
این شرکت همچنین اذعان کرده است که نمی‌تواند با قطعیت مشخص کند تکثیر مستقل هوش مصنوعی در نهایت چه شکلی خواهد داشت.
به گفته آنتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از مراحل مورد نیاز برای تکثیر خود را انجام دهند. با این حال، این مدل‌ها هنوز هنگام ترکیب این مراحل برای ایجاد یک فرایند کامل و سرتاسری، مرتکب اشتباه می‌شوند.
این شرکت اعلام کرد اگر مدل‌های کوچک‌تر با همان نرخ تاریخی پیشرفت خود بهبود یابند، ممکن است تا پایان سال جاری به این توانایی دست پیدا کنند.
آنتروپیک خطرات امنیت سایبری مرتبط با هوش مصنوعی خودتکثیرشونده را پیامدی ناخواسته از پیشرفت در حوزه‌های دیگر توصیف کرده است.
این شرکت در بیانیه‌ای گفت: «توانایی‌هایی که مدل‌های هوش مصنوعی را به عامل‌های قدرتمند برنامه‌نویسی تبدیل می‌کنند، به وظایف سایبری نیز تعمیم پیدا می‌کنند؛ از جمله تکثیر مستقل خودکار.»
کدهای رایانه‌ای خودتکثیرشونده پدیده جدیدی نیستند. برخی از مخرب‌ترین حملات سایبری تاریخ بر پایه همین نوع نرم‌افزارهای خودگسترش‌یابنده که به آن‌ها «کرم» (worm) گفته می‌شود، انجام شده‌اند.
در سال ۲۰۱۰، حمله استاکس‌نت از یک کرم پیچیده استفاده کرد که به طور گسترده گفته می‌شود توسط آمریکا و اسرائیل توسعه یافته بود تا سانتریفیوژهای تأسیسات غنی‌سازی اورانیوم نطنز در ایران را مختل کند.
هفت سال بعد، حمله باج‌افزاری واناکرای (WannaCry) دسترسی کاربران در سراسر جهان به فایل‌هایشان را مسدود کرد و از آن‌ها درخواست پرداخت با بیت‌کوین داشت.
با این حال، برخلاف کرم‌های سنتی، مدل‌ها و عامل‌های هوش مصنوعی می‌توانند به‌صورت مستقل دستگاه‌های ناشناخته را شناسایی و خود را با آن‌ها تطبیق دهند. این توانایی می‌تواند به آن‌ها اجازه دهد نه‌تنها میان رایانه‌ها، بلکه از رایانه‌ها به دیگر تجهیزات متصل نیز منتقل شوند.
آنتروپیک پیش‌بینی می‌کند آینده‌ای در پیش باشد که در آن «عامل‌هایی روی همه انواع سخت‌افزارها، از جمله برخی تجهیزاتی که تحت کنترل انسان نیستند، فعال خواهند بود».