آیا REDSPICE به طرحی از رده خارج تبدیل شده است؟ هوش مصنوعی برنامه‌های سایبری استرالیا را غافلگیر کرده است
طرح REDSPICE، برنامه ۱۰ میلیارد دلاری دولت استرالیا برای تقویت توان سایبری اداره سیگنال‌های استرالیا، نهادی اطلاعاتی و محرمانه، در سال ۲۰۲۲ و در دوران نخست‌وزیری اسکات موریسون آغاز شد و بزرگ‌ترین سرمایه‌گذاری تاریخ این سازمان به شمار می‌رفت. این برنامه، نقشه راهی ده‌ساله برای توسعه توان تهاجمی سایبری استرالیا بود تا این سازمان بتواند جایگاه پیشتاز خود را در فناوری‌های کلیدی حفظ کند. اداره سیگنال‌های استرالیا مسئولیت فعالیت‌های این حوزه را بر عهده دارد و طرح REDSPICE قرار بود این توانمندی‌ها را تا سال ۲۰۳۲ گسترش دهد.
با این حال، تحولات جدید بسیار زودتر از موعد پایان طرح در سال ۲۰۳۲، برنامه را از مسیر اولیه‌اش خارج کرده‌اند.
مسئله اصلی، ظهور مدل‌های هوش مصنوعی بسیار توانمند در شش ماه گذشته است؛ مدل‌هایی که قابلیت‌های نگران‌کننده تازه‌ای از خود نشان داده‌اند. از جمله این موارد می‌توان به رخداد نفوذ و فرار از محیط ایزوله شرکت Hugging Face و هک اینترنتی، نمونه‌های دیگری از سوی OpenAI و عامل‌های هوش مصنوعی Anthropic اشاره کرد که توانسته‌اند از سد تدابیر امنیت سایبری پیشین عبور کنند. حملات سایبری گسترده در ژاپن، کره جنوبی و فرانسه نیز نشان می‌دهند که در عصر هک مبتنی بر هوش مصنوعی، سرعت حملات و میزان خطر آن‌ها به‌طور چشمگیری افزایش یافته است.
مدل‌های جدید هوش مصنوعی شرکت‌های بزرگ آمریکایی و شماری از مدل‌های قدرتمند با وزن‌های باز، که عمدتاً شرکت‌های چینی توسعه داده‌اند، دشمنان تازه‌ای را نیز به وجود آورده‌اند؛ از بازیگران دولتی و غیردولتی گرفته تا عامل‌های هوش مصنوعی که ممکن است مستقل از کنترل انسان فعالیت کنند. این ابزارها می‌توانند سامانه‌های دیجیتال دولت و شرکت‌های استرالیایی را در مقیاسی گسترده، با سرعت بالا و از چندین مسیر به‌طور هم‌زمان هدف قرار دهند.
نگران‌کننده‌تر آن است که توسعه این فناوری‌ها به‌جای آنکه در اختیار دولت‌ها، از جمله دولت استرالیا و دیگر شرکای اطلاعاتی آن در ائتلاف پنج چشم، یعنی آمریکا، بریتانیا، کانادا و نیوزیلند، باشد، در دست شمار اندکی از شرکت‌های آمریکایی و چینی متمرکز شده است.
با توجه به سرعت تحولات، حتی سازمان‌های فوق‌محرمانه سایبری دولت‌ها نیز اکنون بیشتر شبیه مشتریانی هستند که ناچارند شرایط بازار را بپذیرند، یا حتی ناظرانی که کنترل چندانی بر اوضاع ندارند. در بهترین حالت، رابطه آن‌ها با شرکت‌های پیشرو هوش مصنوعی مانند Anthropic و OpenAI ترکیبی از مشتری‌بودن و همکاری است.
برای سازمان‌هایی که به فعالیت در مرزهای پیشرفته فناوری دیجیتال عادت دارند و به تعبیر طرح REDSPICE، میان «دشوار و ناممکن» حرکت می‌کنند، این تحولات به‌شدت تکان‌دهنده است. چنین وضعیتی ممکن است حتی به نوعی هراس در این سازمان‌ها دامن بزند.
در سال ۲۰۲۲، طرح REDSPICE برنامه‌ای پرهزینه و بلندپروازانه به نظر می‌رسید. این طرح وعده می‌داد که سرمایه‌گذاری ۹٫۹ میلیارد دلاری طی یک دهه، توان تهاجمی سایبری اداره سیگنال‌های استرالیا را سه برابر کند و ظرفیت این سازمان برای جست‌وجوی مستمر و شناسایی تهدیدهای سایبری را به دو برابر برساند. در آن زمان، طرح همچنین به استفاده از «هوش مصنوعی پیشرفته، یادگیری ماشین و فناوری ابری» اشاره می‌کرد؛ عباراتی که اطمینان‌بخش به نظر می‌رسیدند.
اما اکنون که مدل‌های بسیار توانمند هوش مصنوعی دنیای سایبری را متحول کرده‌اند، دو یا سه برابر کردن توانمندی‌ها دیگر هدفی متناسب با شرایط جدید به نظر نمی‌رسد.
«این وضعیت شبیه آن است که پرورش‌دهندگان اسب‌های تندرو، در میانه ساخت یک مرکز پرورش اسب با بهترین استانداردها، ناگهان با ورود هواپیماهای جت غافلگیر شوند.»
در سال ۲۰۲۲، منظور از «هوش مصنوعی پیشرفته» احتمالاً نسخه بهبودیافته‌ای از سامانه‌های یادگیری ماشین موجود بود؛ فناوری‌ای که هیچ شباهت واقعی‌ای به توانایی مدل‌های پیشرو هوش مصنوعی در هک با استفاده از مدل‌های زبانی بزرگ و اجرای حملات فراگیر و آزمون‌وخطا نداشت؛ قابلیت‌هایی که در اواخر سال ۲۰۲۶ شاهد آن‌ها هستیم.
در واقع، مطالعه سند راهبردی REDSPICE نشان می‌دهد که در آن زمان، هوش مصنوعی موضوعی جالب اما فرعی در نظر گرفته می‌شد. اکنون، در مقابل، هوش مصنوعی به فناوری محوری تبدیل شده است که به نظر می‌رسد برتری‌های پیشین در حوزه تهاجمی و دفاعی سایبری را زیرورو می‌کند و از میان می‌برد.
هر طرحی با عنوان «REDSPICE 2026» باید پیامدها، فرصت‌ها و تهدیدهای جدی هوش مصنوعی برای جهان دیجیتال، آینده سازمان‌های اطلاعات سایبری و حفاظت از اطلاعات دولتی، حتی اطلاعاتی که با روش‌های رمزنگاری بسیار قدرتمند محافظت می‌شوند، را در مرکز توجه قرار دهد.
در مقابل، در طرح REDSPICE سال ۲۰۲۲، هوش مصنوعی آخرین مورد از هشت «فرصت صنعتی» بود که در صفحه پایانی سند آمده بود. در مجموع نیز تنها پنج بار در سند ۱۸ صفحه‌ای به آن اشاره شده بود. حتی این اشاره‌ها هم در کنار مجموعه‌ای از موضوعات دیگر، مانند «خدمات داده» و «فناوری ابری» و «یادگیری ماشین»، قرار داشتند؛ نه به‌عنوان ستون اصلی تحول لازم برای موفقیت برنامه.
البته انتقاد از مسئولان اداره سیگنال‌های استرالیا که REDSPICE را تدوین کردند یا دولت موریسون که از آن حمایت کرد، چندان منصفانه نیست؛ زیرا سرعت تغییرات و رشد توانمندی‌های سامانه‌های پیشرو هوش مصنوعی طی دو سال گذشته خارق‌العاده بوده است. اگر در سال ۲۰۲۲، جهان سایبری مبتنی بر هوش مصنوعی در سال ۲۰۲۶ به‌عنوان آینده‌ای نزدیک برای تصمیم‌گیران توصیف می‌شد، احتمالاً آن را چیزی شبیه رؤیایی تب‌آلود و غیرواقعی می‌پنداشتند.
پول راه‌حل نیست؛ مسئله نیز به خرید یکی دو مدل بزرگ آمریکایی محدود نمی‌شود
پاسخ به این وضعیت ساده نیست و صرفاً با اختصاص بودجه بیشتر یا امضای قراردادهای تجاری بزرگ با OpenAI و Anthropic به دست نمی‌آید.
افرادی که در حوزه امنیت ملی فعالیت می‌کنند، طبیعتاً درباره استفاده از ابزارهای هوش مصنوعی با منشأ چینی در محیط‌هایی که اسرار کشور با سه لایه سیم خاردار و لایه‌های متعدد دفاع دیجیتال محافظت می‌شوند، احتیاط فراوانی خواهند داشت.
با این حال، این مدل‌های چینی برای توسعه‌دهندگان سامانه‌ها و برنامه‌های کاربردی بسیار مفیدند. به همین دلیل، میزان دانلود آن‌ها حتی در سیلیکون‌ولی نیز از رقبای آمریکایی‌شان پیشی گرفته است. محبوبیت این مدل‌ها در آمریکا به این دلیل است که مدل‌های با وزن‌های بازی که شرکت‌های چینی توسعه داده‌اند، قابل دانلود و اجرا بدون اتصال مداوم به شرکت سازنده در چین هستند. توسعه‌دهندگان می‌توانند این مدل‌ها را دریافت کنند و برای انجام وظایف و کارکردهای مشخص، آموزش دهند و سفارشی‌سازی کنند.
اگر استرالیا می‌خواهد دفاع مؤثری ایجاد کند و توان عملیاتی قابل اتکایی در حوزه تهاجمی سایبری داشته باشد، باید قابلیت‌ها و آسیب‌پذیری‌های این مدل‌های چینی را به‌خوبی بشناسد. دستیابی به این شناخت بدون تهیه و استفاده عملی از آن‌ها ممکن نیست.
مدل‌های سفارشی‌سازی‌شده با وزن‌های باز که بر پایه مدل‌های بنیادی شرکت‌های چینی ساخته می‌شوند، در صورت استفاده در دست افراد مناسب می‌توانند ابزارهایی فوق‌العاده قدرتمند برای دفاع سایبری یا حمله سایبری باشند. این مدل‌ها همچنین ممکن است بسیار کوچک‌تر از مدل‌های عظیم و پیشرو شرکت‌های OpenAI و Anthropic باشند؛ بنابراین، با منابع محاسباتی ساده‌تر و حتی رایانه‌های شخصی بسیار قدرتمندی مانند جدیدترین مدل‌های سری Mac Pro قابل اجرا هستند.
به نظر می‌رسد تلاش برای دفاع سایبری بدون برخورداری از مجموعه‌ای متنوع از این مدل‌های تخصصی کوچک‌تر، که می‌توان آن‌ها را برای نیازهای مشخص توسعه داد، محکوم به شکست باشد؛ حتی اگر استرالیا با OpenAI و Anthropic توافق کند تا جدیدترین مدل‌های هوش مصنوعی آن‌ها را در اختیار اداره سیگنال‌های استرالیا قرار دهد.
دو غول آمریکایی؛ شرکایی که دیر حقیقت را می‌گویند و نمی‌توانند محصولات خود را کنترل کنند؟
در حوزه هوش مصنوعی و فناوری شرکت‌های کشور متحد بزرگ استرالیا، آمریکا، مشکلات آشکاری نیز وجود دارد: آیا شرکت‌های بزرگ هوش مصنوعی آمریکا و عامل‌های هوش مصنوعی آن‌ها شرکای قابل اعتمادی هستند؟
عملکرد OpenAI در چند ماه گذشته به شکل‌گیری چنین اعتباری کمک نکرده است. این شرکت نتوانسته فناوری‌های خود را به‌درستی کنترل کند؛ مدل‌های هوش مصنوعی سرکش آن از محیط آزمایشی ایزوله شرکت خارج شدند و چندین هفته در اینترنت به هک سامانه‌های دیگر، از جمله سامانه‌های دولتی و شرکتی، پرداختند. این ماجرا که با عنوان حملات هکری Hugging Face شناخته می‌شود، هنوز ابعاد کاملاً روشنی ندارد. شرکت تا زمانی که دیگران آن را از ماجرا مطلع نکردند، متوجه این فعالیت‌ها نشد. تصور کنید اگر یک نهاد دولتی مانند اداره سیگنال‌های استرالیا چنین آشوبی به پا کرده بود، چه اتفاقی می‌افتاد.
همچنین، سام آلتمن، مدیرعامل OpenAI، بسیار دیرتر از زمان مناسب به فکر اطلاع‌رسانی به دولت استرالیا درباره هک سامانه مدیکر به‌وسیله دیگر مدل‌های سرکش این شرکت افتاد. آلتمن در دیدار اوایل سپتامبر با ریچارد مارلز، معاون نخست‌وزیر استرالیا، اشاره‌ای به حمله ماه اوت نکرد. او تنها چند هفته بعد و پس از افزایش فشار افکار عمومی، موضوع را با آنتونی آلبانیزی در میان گذاشت. این تأخیر طولانی مبنای مناسبی برای ایجاد یک همکاری قابل اعتماد در قلب امنیت دیجیتال استرالیا نیست.
گزارش‌ها اکنون حاکی از آن‌اند که این حمله به سامانه دولتی تنها یکی از موارد متعدد حملات به دولت‌های استرالیا و کشورهای دیگر و شرکت‌های گوناگون بوده است. مدل‌های پیشرفته دیگر، از جمله مدل‌های شرکت Anthropic و برخی از مدل‌های توسعه‌دهندگان چینی، نیز حوادث مشابهی ایجاد کرده‌اند و احتمالاً هنوز هم چنین می‌کنند. صرف‌نظر از اینکه مدیران این شرکت‌ها تا چه اندازه شفاف و صریح عمل می‌کنند، به نظر می‌رسد نه OpenAI و نه Anthropic توانایی کنترل کامل محصولات خود را ندارند.
در نتیجه، بخش سایبری استرالیا با تهدیدهایی بی‌سابقه از سوی ابزارهای قدرتمند جدید روبه‌روست. هم‌زمان، این خطر وجود دارد که بازیگران غیردولتی خطرناک، از جمله تروریست‌ها و مجرمان سایبری، از مدل‌های هوش مصنوعی برای گسترش سریع فعالیت‌های مخرب خود استفاده کنند. در عین حال، هنوز روشن نیست که همکاری ساده با شرکت‌های سازنده مدل‌های پیشرفته هوش مصنوعی راه‌حلی آسان برای این مشکلات باشد.
نخست آنکه این شرکت‌ها هنوز ثابت نکرده‌اند که می‌توانند فناوری‌های خود را کنترل و هدایت کنند. اظهارات اطمینان‌بخش جیسون کوون، مدیر ارشد فناوری OpenAI، و عذرخواهی او بابت هک مدیکر در جلسه استماع پارلمان که پس از وقوع این حمله در آن شرکت کرد، این واقعیت را تغییر نداده است. افزون بر این، حتی اگر مقام‌های استرالیایی تصمیم بگیرند که می‌توانند به این شرکت‌ها در همکاری‌های تجاری اعتماد کنند، احتمالاً شرکت‌ها برای در اختیار گذاشتن مزیت فناورانه خود از دولت‌ها مبالغ بسیار هنگفت و شرایطی استثنایی مطالبه خواهند کرد؛ آن هم در حوزه‌ای که با اطلاعات فوق‌محرمانه سروکار دارد.
اگر OpenAI و Anthropic همچنان نتوانند رفتار مدل‌های هوش مصنوعی خود را کنترل کنند، استفاده از این مدل‌ها در نهادهای امنیت ملی استرالیا ممکن است تهدیدهای داخلی ناشی از هوش مصنوعی ایجاد کند. چنین اقدامی همچنین ممکن است به این مدل‌ها بستری بدهد تا به شیوه‌هایی ناخواسته از محیط امن خارج شوند و به دنیای بیرون دسترسی پیدا کنند.
درهم‌تنیدگی منافع تجاری با نگرانی‌های امنیت ملی
گذشته از چالش‌های امنیتی ناشی از شرکت‌های بزرگ هوش مصنوعی آمریکا، به نظر می‌رسد نگرانی و نوعی هراس در محافل دولتی استرالیا درباره هوش مصنوعی و امنیت ملی، فرصتی برای OpenAI و Anthropic فراهم کرده است تا برای تضعیف قوانین حفاظت از داده‌های استرالیا فشار بیاورند؛ تغییری که می‌تواند این کشور را به بهشتی برای جمع‌آوری داده‌ها تبدیل کند. چنین تغییری امتیازی تجاری و بسیار بزرگ به این شرکت‌ها می‌دهد، اما موضوع آن کاملاً جدا از بحث استفاده از هوش مصنوعی در امنیت ملی است.
به نظر می‌رسد دولت آلبانیزی تصور می‌کند که امضای قرارداد بر اساس شرایط پیشنهادی Anthropic و OpenAI می‌تواند راه نجاتی باشد؛ اما تنها شرکت‌های هوش مصنوعی به‌اصطلاح دوست و هم‌پیمان نیستند که از امکان قانونی جمع‌آوری داده‌ها بهره خواهند برد.
تغییر قوانین به نفع OpenAI و Anthropic، قوانین حاکم بر شرکت‌های هوش مصنوعی چینی و مجرمان و هکرهای سایبری مجهز به هوش مصنوعی را نیز تغییر خواهد داد. در نتیجه، همه آن‌ها برای جمع‌آوری گسترده داده‌ها در استرالیا از مجوزی قانونی برخوردار خواهند شد.
ممکن است جامعه امنیت ملی استرالیا تهدید هوش مصنوعی را چنان فوری بداند که حاضر باشد در ازای دستیابی به توافق با این شرکت‌ها، از تلاش تجاری آن‌ها برای تغییر قوانین حمایت کند؛ به‌ویژه آنکه هزینه تضعیف حفاظت از داده‌ها مستقیماً بر دوش نهادهای دولتی نخواهد بود. این هزینه را استرالیایی‌هایی متحمل خواهند شد که معیشتشان به فعالیت‌های خلاقانه و درآمد حاصل از حمایت‌های قانونی حق نشر وابسته است. با این حال، پیش از آنکه سازمان‌های اطلاعاتی برای جشن گرفتن توافق احتمالی آماده شوند، باید بررسی کنند که سایر بازیگران حوزه هوش مصنوعی چگونه از قوانین جدید استفاده خواهند کرد.
یک توافق بزرگ با OpenAI و Anthropic یا یکی از آن‌ها ممکن است از نظر امنیت سایبری و افزایش بهره‌وری ملی جذاب به نظر برسد، اما احتمالاً با مخاطرات و هشدارهای جدی همراه خواهد بود.
شتاب‌زدگی در انعقاد قرارداد با دو شرکت آمریکایی که خواسته‌های گسترده‌ای دارند، بدون بررسی نحوه بهره‌برداری دیگر بازیگران و توسعه‌دهندگان هوش مصنوعی از تغییرات قانونی، به همان نوع سیاست‌گذاری نسنجیده شباهت دارد که از زمان ارائه بودجه ماه مه، با انباشته شدن پیامدهای ناخواسته، به عقب‌نشینی از اصلاحات مالیاتی و تغییرات مربوط به کارمزد اضافه کارت‌های اعتباری دولت انجامیده است.
تحولات جدید از برنامه‌های سایبری REDSPICE استرالیا پیشی گرفته‌اند. روشن است که نیازهای کنونی استرالیا در حوزه سایبری به بودجه‌ای بسیار بیشتر از هر مبلغی نیاز دارد که از بودجه ۹٫۹ میلیارد دلاری اولیه باقی مانده باشد. با این حال، راه‌حل، توافقی پرزرق‌وبرق و شتاب‌زده با OpenAI و Anthropic نیست؛ توافقی که استرالیا را به بهشتی برای جمع‌آوری داده‌ها به دست شرکت‌های هوش مصنوعی چینی و هکرها و مجرمان سایبری مجهز به هوش مصنوعی در سراسر جهان تبدیل کند.
پژوهش راهبردی استرالیا (SAA) به سفارش ARIA پژوهشی درباره هوش مصنوعی، امنیت ملی و حق نشر انجام داده است. این مقاله از پژوهش‌های انجام‌شده در چارچوب آن پروژه استفاده کرده است.