آنتروپیک: «کرم‌های هوش مصنوعی» ممکن است به‌زودی خود را تکثیر کرده و دستگاه‌های هوشمند را آلوده کنند

آنتروپیک درباره خطر جدیدی که هوش مصنوعی می‌تواند ایجاد کند هشدار داده است: «کرم‌های هوش مصنوعی» خودتکثیرشونده ممکن است به‌زودی بتوانند به دستگاه‌های هوشمند خانگی نفوذ کنند.

پژوهشگران بخش ایمنی آنتروپیک در گزارشی که روز دوشنبه منتشر شد، اعلام کردند مدل‌های کوچک هوش مصنوعی ممکن است تنها «چند ماه» با دستیابی به توانایی کپی‌کردن خود و انتشار در دستگاه‌های متصل به اینترنت، مانند فرهای هوشمند، تلویزیون‌ها و جاروبرقی‌ها فاصله داشته باشند. به گفته آنتروپیک، توانایی تکثیر بدون کنترل انسانی، مهار چنین عامل‌هایی را دشوار می‌کند؛ زیرا «نقطه متمرکز برای خاموش‌کردن آن‌ها وجود نخواهد داشت». این شرکت سازنده چت‌بات کلود است.

به گفته آنتروپیک، مدل‌های قدرتمندتر هوش مصنوعی هم‌اکنون قادر به چیزی هستند که پژوهشگران آن را «تکثیر سرتاسری» می‌نامند؛ آستانه‌ای که این شرکت معتقد است مدل‌های کوچک‌تر ممکن است تا پایان سال به آن برسند.

طبق اعلام شرکت امنیت سایبری پالو آلتو نتورکس، کرم‌های هوش مصنوعی که نوعی بدافزار مبتنی بر هوش مصنوعی هستند، می‌توانند به‌سرعت در شبکه‌ها و دستگاه‌ها منتشر شوند و هم‌زمان از شناسایی شدن نیز جلوگیری کنند.

پژوهشگران آنتروپیک می‌گویند دستگاه‌های هوشمند در خانه‌ها، همچنین تجهیزات متصل به اینترنت مانند دوربین‌های امنیتی، در معرض خطر هستند؛ زیرا دستگاه‌های دارای قابلیت اتصال به اینترنت معمولاً از حفاظت‌های امنیتی ضعیف‌تری برخوردارند. آن‌ها در بدترین سناریوی ممکن، احتمال می‌دهند گروهی از عامل‌های هوش مصنوعی ــ ربات‌هایی که برای رسیدن به یک هدف مشترک با یکدیگر همکاری می‌کنند ــ بتوانند با استفاده از «طرح‌های تکثیر» در سخت‌افزارهای رایانه‌ای گسترش پیدا کنند.

این پژوهشگران گفتند هنوز مشخص نیست چنین حملاتی دقیقاً چه شکلی خواهند داشت. آن‌ها اشاره کردند که مدل‌های هوش مصنوعی ممکن است به شکل «کپک لجن‌مانند دیجیتال» توزیع شوند یا حتی به مدل‌های قدرتمندتری تبدیل شوند که توانایی نفوذ به مراکز داده را داشته باشند.

پژوهشگران آنتروپیک در این گزارش نوشتند: «باید تلاش کنیم سیستم‌های خود را مقاوم‌تر کنیم تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما هم‌زمان باید برای جهانی آماده شویم که در آن این پدیده‌ها حضور دائمی خواهند داشت.»