آنتروپیک درباره خطر خودتکثیری مدل‌های کوچک هوش مصنوعی هشدار داد

شرکت هوش مصنوعی آنتروپیک درباره احتمال خودتکثیری مدل‌های کوچک هوش مصنوعی از طریق دستگاه‌های اینترنت اشیا (IoT) ابراز نگرانی کرده است. بر اساس گزارشی از The Verge، آنتروپیک در آزمایش‌هایی نشان داده است که این مدل‌ها می‌توانند در دستگاه‌های خانگی مانند یخچال‌ها، جاروبرقی‌ها و دوربین‌های امنیتی منتشر شوند و خطر تازه‌ای در حوزه امنیت سایبری ایجاد کنند.

کارشناسان تأکید کرده‌اند که اگرچه کرم‌های رایانه‌ای و نگرانی درباره هوش مصنوعی خودتکثیرشونده موضوعات تازه‌ای نیستند، پیشرفت‌های اخیر نشان می‌دهد این هشدارها باید جدی گرفته شوند. مدل‌های کوچک هوش مصنوعی که به‌طور مداوم در حال بهبود هستند و می‌توانند روی دستگاه‌های معمولی اجرا شوند، چالش جدیدی ایجاد می‌کنند؛ زیرا قادرند در میان شبکه‌ای از دستگاه‌های کم‌توان‌تر گسترش پیدا کنند.

در یکی از آزمایش‌ها، پژوهشگران آنتروپیک توانستند مدل Google Gemma 4 با ۲۶ میلیارد پارامتر را روی ۱۵ دستگاه اندروید تی‌وی توزیع کنند و نشان دهند که یک مدل هوش مصنوعی می‌تواند روی دستگاه‌های خانگی فعالیت کند. با این حال، تنها پیشرفته‌ترین مدلی که در این آزمایش بررسی شد، یعنی GLM-5.2 از شرکت چینی Z.ai، توانست در سراسر شبکه گسترش یابد.

جفری لادیش، مدیر اجرایی شرکت پژوهشی امنیت هوش مصنوعی Palisade Research، گفته است مدل‌های کوچک‌تر می‌توانند حملات سایبری را به‌صورت خودکار انجام دهند. او پیش‌بینی می‌کند مدل‌های بزرگ‌تر بتوانند روی شبکه‌های گسترده‌ای از تراشه‌های مصرفی، از جمله تراشه‌های موجود در مک‌بوک‌ها، فعالیت کنند.

نیکلاس پاپرنوت، استاد دانشگاه تورنتو، هشدار داده است که کرم‌های رایانه‌ای مبتنی بر هوش مصنوعی یک تهدید واقعی هستند و نیازمند اقدام فوری‌اند؛ به‌ویژه برای ایمن‌سازی زیرساخت‌های حیاتی مانند بیمارستان‌ها و شبکه‌های برق. او تأکید کرده است که بدون تلاشی گسترده برای ایمن‌سازی دستگاه‌ها، کرم‌های هوش مصنوعی محیط مناسبی برای انتشار پیدا خواهند کرد.

منابع: The Verge، Ars Technica