هوش مصنوعی در حال ازهم‌گسیختن جهان دیجیتال است
هفته گذشته، اخبار نگران‌کننده‌ای از چندین رخنه امنیتی منتشر شد: گزارش‌هایی از نشت اطلاعات مشتریان بانک دولتی هند (SBI)، حملات سایبری هماهنگ به صدها بانک در آمریکای جنوبی، نفوذ به وب‌سایت هیئت سانسور هند و سرقت اطلاعات، و حمله هکرها به شرکت آمریکایی کوئست دایگنوستیکس، یکی از آزمایشگاه‌های بزرگ پزشکی این کشور، که به سرقت اطلاعات هزاران بیمار انجامید. متیو پرینس، مدیرعامل شرکت کلادفلر، نیز گفت که شرکتش طی چند روز شاهد میلیون‌ها حمله به وب‌سایت‌ها بوده است؛ حملاتی که از آسیب‌پذیری‌های حیاتی PHP، نرم‌افزاری که به‌تازگی نقص‌های آن افشا شده بود، سوءاستفاده می‌کردند.
هفته گذشته، خبرهای امنیت سایبری با سرعتی سرسام‌آور منتشر می‌شدند. البته همه این اتفاقات به هوش مصنوعی مربوط نبودند؛ برای مثال، ماجرای شرکت eMudhra آشکارا نتیجه حماقت انسانی بود. اما هوش مصنوعی در بسیاری از موارد نقش مهمی داشت. مهم‌ترین خبر، بی‌تردید، کشف آسیب‌پذیری در PHP بود؛ فناوری‌ای که میلیون‌ها وب‌سایت در سراسر جهان از آن استفاده می‌کنند. پژوهشگران انسانی با کمک ابزارهای هوش مصنوعی دو نقص بسیار خطرناک در PHP پیدا کردند؛ آن‌قدر جدی که آژانس امنیت ملی آمریکا (NSA)، نهادی که معمولاً اطلاعات چندانی درباره فعالیت‌هایش منتشر نمی‌کند، در شبکه اجتماعی ایکس درباره آن‌ها هشدار داد. این موضوع حتی دفتر نخست‌وزیر ژاپن را هم به بحث درباره جزئیات فنی واداشت.
با وجود هفته‌ای که از نظر امنیت سایبری بسیار نگران‌کننده بود، نظر غالب این است که این اتفاقات تازه آغاز ماجرا هستند. ابزارهای هوش مصنوعی مانند Fable و Astra و اکنون، احتمالاً، Kimi 3.1 و DeepSeek Flash 4.1، در شناسایی نقص‌های نرم‌افزاری چنان توانمند شده‌اند که رقابت مهاجمان و مدافعان به بازی بی‌پایان «بزن و دررو» تبدیل شده است؛ هر نقصی که برطرف می‌شود، نقص دیگری سر برمی‌آورد. با توجه به سرعت هوش مصنوعی در یافتن آسیب‌پذیری‌ها، نوشتن کدهای سوءاستفاده از آن‌ها و فراهم کردن امکان حملات مکرر برای هکرها، هنوز روشن نیست که در نهایت مدافعان پیروز خواهند شد یا نه.
جورج کورتز، مدیرعامل شرکت امنیت سایبری کراوداسترایک، این وضعیت را آغاز عصری تازه توصیف کرده است. او با اشاره به اینکه هوش مصنوعی چگونه معادلات را تغییر می‌دهد، گفت: «با نشت داده‌ها روبه‌رو هستید. با باج‌افزارها روبه‌رو هستید. امکان سرقت اسرار تجاری وجود دارد. هوش مصنوعی این توانایی‌ها را در دسترس افراد و گروه‌های بیشتری قرار می‌دهد. اکنون شاهد گروه‌های مهاجم گوناگونی هستیم که مهارت فنی بسیار کمی دارند، اما می‌توانند حملاتی در سطح دولت‌ها انجام دهند؛ آن هم عملاً با هزینه چند توکن و نوشتن یک دستور برای هوش مصنوعی.»
پیامدهای این وضعیت جدی است، حتی اگر در حال حاضر افرادی مانند ما ــ که متخصصان دنیای فناوری از آن‌ها با عنوان افراد عادی یاد می‌کنند ــ همچنان در آرامش و بی‌خبری زندگی کنند. اما نباید خودمان را فریب دهیم: جهان وارد مرحله‌ای خطرناک شده است؛ مرحله‌ای که در آن امنیت سایبری به چنان دردسر بزرگی تبدیل می‌شود که این خطر وجود دارد مردم سرانجام از تلاش برای مقابله با آن دست بکشند. با گذشت هفته، یکی از کاربران شبکه اجتماعی ایکس این احساس را چنین بیان کرد: «اینترنت، آن‌گونه که می‌شناختیم، به پایان رسیده است.»
یا به حرف‌های متیو پرینس توجه کنید. چند روز پس از ماجرای آسیب‌پذیری‌های PHP، نقصی حیاتی در فناوری مهم دیگری کشف شد و او در شبکه اجتماعی ایکس نوشت: «این مورد ممکن است به بدی آسیب‌پذیری‌های PHP باشد یا حتی از آن‌ها بدتر. به وصله‌های نرم‌افزاری پی‌درپی عادت کنید.» این واکنش پس از آن منتشر شد که OpenAI اعلام کرد هوش مصنوعی این شرکت نقصی را در Brotli پیدا کرده است؛ کتابخانه‌ای که در فناوری‌هایی مانند Bun و Node.js به کار می‌رود.
مشکل هوش مصنوعی این است که تمام مراحل کار را سرعت می‌بخشد: از یافتن یک نقص و سوءاستفاده از آن گرفته تا ایجاد سازوکارهای دفاعی برای مقابله با حمله. این وضعیت یادآور نقشی است که شبکه‌های اجتماعی و واتس‌اپ حدود یک دهه پیش در سرعت‌گرفتن انتشار اطلاعات نادرست داشتند. سرعت تحولات چنان زیاد است که درک و مهار آن از توانایی انسان فراتر می‌رود.
در حال حاضر، امنیت سایبری رویکردی پیشگیرانه دارد؛ یعنی بیشتر آسیب‌پذیری‌ها پیش از آنکه در مقیاسی گسترده مورد سوءاستفاده قرار گیرند، شناسایی و برطرف می‌شوند. اما هوش مصنوعی این معادله را وارونه می‌کند. اکنون، چون نقص‌ها را می‌توان به‌سرعت پیدا کرد و حتی سریع‌تر از آن مورد سوءاستفاده قرار داد، انسان‌ها ناچار می‌شوند بیشتر در موضع دفاعی قرار بگیرند. این وضعیت برای بشریت خطرناک است، زیرا قطعیتی را از بین می‌برد که درباره امنیت خدمات و زیرساخت‌های حیاتی بدیهی فرض می‌کنیم. در نتیجه، امنیت کل اینترنت متزلزل می‌شود و کاربرانی که از آن استفاده می‌کنند، بیش از پیش دچار تردید و بی‌اعتمادی می‌شوند. این تحولات پیامدهایی در پی خواهند داشت.