Anthropic هشدار داد «کرم‌های هوش مصنوعی» ممکن است به‌زودی خودشان را تکثیر و دستگاه‌های هوشمند را آلوده کنند
شرکت Anthropic درباره یک خطر تازه ناشی از هوش مصنوعی هشدار داده است: «کرم‌های هوش مصنوعی» خودتکثیرشونده ممکن است به‌زودی دستگاه‌های هوشمند خانگی را آلوده کنند.
در گزارشی که روز دوشنبه منتشر شد، پژوهشگران ایمنی Anthropic اعلام کردند مدل‌های کوچک هوش مصنوعی ممکن است تنها «چند ماه» با دستیابی به توانایی کپی‌کردن خود و انتشار در دستگاه‌های متصل به اینترنت، مانند اجاق‌های هوشمند، تلویزیون‌ها و جاروبرقی‌های رباتیک، فاصله داشته باشند.
به گفته Anthropic، توانایی تکثیر بدون کنترل انسانی، مهار چنین عامل‌هایی را دشوار می‌کند؛ زیرا «هیچ نقطه مرکزی برای خاموش‌کردن آن‌ها وجود نخواهد داشت». این شرکت سازنده چت‌بات Claude است.
پژوهشگران Anthropic می‌گویند مدل‌های قدرتمندتر هوش مصنوعی هم‌اکنون قادر به چیزی هستند که آن‌ها «تکثیر سرتاسری» می‌نامند؛ آستانه‌ای که به باور این شرکت، مدل‌های کوچک‌تر ممکن است تا پایان سال به آن برسند.
طبق اعلام شرکت امنیت سایبری Palo Alto Networks، کرم‌های هوش مصنوعی نوعی بدافزار مبتنی بر هوش مصنوعی هستند که می‌توانند به‌سرعت در شبکه‌ها و دستگاه‌ها منتشر شوند و هم‌زمان از شناسایی شدن فرار کنند.
پژوهشگران Anthropic گفتند دستگاه‌های هوشمند موجود در خانه‌ها، همچنین تجهیزات متصل به اینترنت مانند دوربین‌های امنیتی، به دلیل داشتن حفاظت‌های امنیتی ضعیف‌تر، در معرض آسیب‌پذیری قرار دارند.
آن‌ها در بدترین سناریوی ممکن توضیح دادند که یک گروه بزرگ از عامل‌های هوش مصنوعی — ربات‌هایی که برای دستیابی به یک هدف مشترک با یکدیگر همکاری می‌کنند — ممکن است با استفاده از «طرح‌های تکثیر» در سخت‌افزارهای رایانه‌ای گسترش پیدا کند.
این پژوهشگران گفتند هنوز مشخص نیست چنین حملاتی دقیقاً چه شکلی خواهند داشت. به گفته آن‌ها، مدل‌های هوش مصنوعی ممکن است به شکل یک «کپک لجن دیجیتال» توزیع شوند یا به مدل‌های قدرتمندتری تبدیل شوند که توانایی نفوذ به مراکز داده را دارند.
پژوهشگران Anthropic در این گزارش نوشتند: «باید سیستم‌های خود را مقاوم‌تر کنیم تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما هم‌زمان باید برای جهانی آماده شویم که در آن این عوامل حضور دائمی دارند.»
ویرایش: Alain Sherter
دسته‌بندی: