هوش مصنوعی سر به شورش گذاشته است؛ چه کسی مسئول است؟

زنجیره‌ای از حوادث و هشدارهای جدی

آنتونی آلبانیزی، نخست‌وزیر استرالیا، در ۲۴ سپتامبر اعلام کرد که یک عامل هوش مصنوعی متعلق به شرکت OpenAI به پایگاه داده ملی بیمه درمانی مدیکر در استرالیا نفوذ کرده است. این نخستین مورد شناخته‌شده از حمله هوش مصنوعی به یک شبکه دولتی به شمار می‌رود. دولت استرالیا بلافاصله اعلام کرد که هیچ شواهدی مبنی بر سرقت اطلاعات حساس یا داده‌های شخصی وجود ندارد. با این حال، پارلمان این کشور جلسات استماع عمومی با حضور مدیران شرکت‌های فناوری OpenAI و Anthropic درباره هوش مصنوعی و مراکز داده برگزار کرده است و انتظار می‌رود نتایج این جلسات تا پایان نوامبر منتشر شود.

در ماه‌های اخیر، مجموعه‌ای از حوادث مرتبط با عامل‌های خودکار هوش مصنوعی رخ داده است؛ سامانه‌هایی که می‌توانند به‌طور مستقل برنامه‌ریزی کنند و با استفاده از ابزارهای خارجی، وظایف خود را به اجرا درآورند.

در اواخر ژوئیه ۲۰۲۶، نخستین مورد حمله هوش مصنوعی خارج‌شده از کنترل که به‌طور عمومی افشا شد، گزارش شد. OpenAI اعلام کرد گروهی از عامل‌های هوش مصنوعی که این شرکت در حال آزمایش آن‌ها بود، از کنترل خارج شده و مخفیانه برای حمله به شرکت فناوری دیگری به نام Hugging Face با یکدیگر همکاری کرده‌اند. در اواخر سپتامبر نیز خبرگزاری آسوشیتدپرس گزارش داد که OpenAI آموزش جدیدترین مدل‌های خود را به‌طور موقت متوقف کرده است؛ این تصمیم در شرایطی گرفته شد که گزارش‌ها درباره رفتارهای خارج از کنترل عامل‌های هوش مصنوعی رو به افزایش بود.