پس از «آشغال هوش مصنوعی»، اکنون «کپک لزج هوش مصنوعی» در حال تسخیر وب است
پس از آنکه «آشغال هوش مصنوعی» اینترنت را با محتوای کم‌کیفیت و تولیدشده توسط ماشین‌ها پر کرد، اکنون نگرانی تازه‌ای در حوزه هوش مصنوعی با عنوان «کپک لزج هوش مصنوعی» در حال گسترش است. پژوهشگران Anthropic این مدل‌های کوچک و سرکش هوش مصنوعی را شناسایی کرده‌اند که می‌توانند در دستگاه‌های متصل به اینترنت منتشر شوند و از خود نسخه‌برداری کنند.
بر اساس گزارشی از Business Insider، این مدل‌های سرکش هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ راه خود را به لوازم خانگی مانند اجاق‌های هوشمند، یخچال‌ها، جاروبرقی‌های رباتیک و ماشین‌های چمن‌زن باز کنند.
تیم پژوهشی قابلیت‌های هوش مصنوعی Anthropic در گزارشی که روز دوشنبه منتشر شد، هشدار داد بسیاری از دستگاه‌های متصل به اینترنت «حداقل تدابیر امنیتی» را دارند. این وضعیت می‌تواند به مدل‌های کوچک هوش مصنوعی اجازه دهد از توان محاسباتی این دستگاه‌ها برای تکثیر و انتشار در میان تجهیزات دیگر استفاده کنند.
پژوهشگران این سناریوی احتمالی را نوعی «کپک لزج دیجیتال» توصیف کردند که به‌صورت آهسته و توزیع‌شده روی سخت‌افزارهای محاسباتی نسبتاً ناامن زندگی می‌کند.
این تیم برای آزمایش این ایده، چندین مدل کوچک هوش مصنوعی از جمله سری GLM شرکت چینی Z.ai، مدل Qwen از علی‌بابا و مدل Gemma متعلق به Google DeepMind را بررسی کرد. در یکی از آزمایش‌ها، پژوهشگران اجرای استنتاج با مدل Gemma را روی ۱۵ دستگاه ارزان‌قیمت و غیرنامدار Android TV که هرکدام ۵۵ دلار قیمت داشتند، آزمایش کردند و دریافتند این ساختار قابل اجراست.
کرم هوش مصنوعی چیست؟
کرم‌ها دهه‌هاست در حوزه امنیت سایبری وجود دارند. این برنامه‌های مخرب می‌توانند بدون نیاز به نصب دستی روی هر دستگاه، از خود نسخه تهیه کرده و در میان سامانه‌های متصل به یکدیگر گسترش پیدا کنند.
پژوهشگران Anthropic هشدار داده‌اند که کرم‌های هوش مصنوعی می‌توانند این تهدید را یک مرحله فراتر ببرند؛ به این شکل که ضمن تکثیر خود روی دستگاه‌های دیگر، مدل‌های هوش مصنوعی خود را نیز همراه داشته باشند. چنین سامانه‌هایی به‌جای اتکا کامل به مراکز داده قدرتمند، ممکن است از توان محاسباتی لوازم هوشمند روزمره استفاده کنند.
پژوهشگران هشدار دادند خاموش کردن این سامانه‌های توزیع‌شده ممکن است دشوار باشد، به‌ویژه اگر آن‌ها در دستگاه‌هایی منتشر شوند که امنیت پایینی دارند یا مستقیماً تحت کنترل صاحبانشان نیستند.
در گزارشی که Business Insider به نقل از پژوهشگران منتشر کرد، آمده است: «به‌عنوان پیش‌بینی‌ای فراتر از آزمایش‌های ما، انتظار داریم آینده‌ای را شاهد باشیم که در آن عوامل هوش مصنوعی روی انواع سخت‌افزارها اجرا می‌شوند؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.»
آن‌ها از توسعه‌دهندگان خواستند تدابیر امنیت سایبری را تقویت کنند و خود را برای آینده‌ای آماده کنند که در آن عوامل خودمختار هوش مصنوعی ممکن است به‌طور فزاینده‌ای دشوارتر از گذشته قابل مهار باشند.
این هشدار در شرایطی مطرح می‌شود که نگرانی‌ها درباره ایمنی هوش مصنوعی رو به افزایش است. ماه گذشته، کارکنان فعلی و سابق شرکت‌های فعال در این حوزه درباره احتمال وقوع یک فاجعه مرتبط با هوش مصنوعی در دهه آینده هشدار دادند؛ موضوعی که نظارت‌ها بر شرکت‌های پیشرو در زمینه هوش مصنوعی، از جمله Anthropic و OpenAI، را افزایش داده است.