کلیدهای سرقت‌شده هوش مصنوعی، ۷۴۰ هزار دلار هزینه روی دست قربانی گذاشتند؛ راهکار اصلی، تعویض دوره‌ای کلیدهاست

hackernoon.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

هدف مهاجمان سرقت کلیدهای دسترسی بود، نه اطلاعات

شرکت Railway در ۱۰ نوامبر گزارش نهایی خود را درباره حمله سایبری ماه اکتبر به این پلتفرم منتشر کرد. مهاجمان توانستند متغیرهای محیطی را در حداکثر ۱.۸۵ درصد از فضای کاری کاربران رمزگشایی کنند؛ رقمی که سقف احتمالی این حمله را به حدود ۱۰۰ هزار فضای کاری می‌رساند. آن‌ها با استفاده از کلیدهای سرقت‌شده، هزینه‌ای در حدود ۷۴۰ هزار دلار برای استفاده غیرمجاز از خدمات هوش مصنوعی ایجاد کردند. همچنین توکن‌های حساب‌های مرتبط با ۱٬۸۵۲ کاربر را بازنشانی کردند؛ از جمله اعتبارنامه‌های عامل‌هایی که از کلیدهای اختصاصی کاربران استفاده می‌کردند و توکن‌های OAuth گیت‌هاب. با این حال، به پایگاه‌های داده مشتریان دسترسی پیدا نشد و هیچ حساب کاربری Railway نیز با استفاده از اعتبارنامه‌های سرقت‌شده مورد ورود قرار نگرفت. هدف مهاجمان اطلاعات نبود؛ آن‌ها به دنبال کلیدهای دسترسی بودند.

این تفاوت از خود حمله نیز مهم‌تر است. نفوذ به پایگاه داده، تهدیدی برای محرمانگی اطلاعات محسوب می‌شود؛ اما سرقت کلید دسترسی، مستقیماً هزینه مالی ایجاد می‌کند و این هزینه می‌تواند به‌طور مداوم افزایش یابد. اطلاعات سرقت‌شده از یک پایگاه داده ثابت می‌ماند، اما یک کلید API دزدیده‌شده تا زمانی که لغو نشود به کار خود ادامه می‌دهد و هر درخواست ارسالی با آن، هزینه‌ای برای قربانی ایجاد می‌کند. Railway می‌گوید مهاجمان کوئری‌های پایگاه داده را به‌طور اختصاصی طراحی کرده بودند تا کلیدهای دسترسی به ارائه‌دهندگان هوش مصنوعی را پیدا کنند. این شرکت احتمال می‌دهد کلیدها به سرویس‌هایی رسیده باشند که دسترسی به مدل‌های هوش مصنوعی را واسطه‌گری یا بازفروش می‌کنند؛ شاید با هدف استفاده در فرایند تقطیر مدل‌ها.

من بخش عمده فعالیت حرفه‌ای خود را در سوی دیگر همین مسئله می‌گذرانم. سامانه‌های پایش تقریباً بلادرنگ ترافیک API را با توان پردازش حدود ۸۰۰ هزار تراکنش در ثانیه توسعه می‌دهم و قابلیت تشخیص ناهنجاری را نیز روی آن‌ها پیاده‌سازی می‌کنم. این حمله حدود ۲۶ ساعت طول کشید و هزینه آن به ۷۴۰ هزار دلار رسید. نشانه‌های حمله در جایی از این بازه زمانی قابل مشاهده بود.

چگونه یک نقص در محیط ساخت به سرقت گسترده اعتبارنامه‌ها منجر شد؟

حمله ساعت ۰۷:۲۸ به وقت هماهنگ جهانی در ۲۰ اکتبر آغاز شد. مهاجم با سوءاستفاده از یک آسیب‌پذیری ناشناخته قبلی، توانست تا حدی از محدودیت‌های جداسازی فایل‌سیستم محیط ساخت عبور کند و فایل‌های موجود روی ماشین مجازی میزبان را بخواند. این نخستین شکست امنیتی و در واقع نقص در سازوکار مهار تهدید بود. محیط ساخت، بنا بر ماهیت خود، کدی غیرقابل اعتماد اجرا می‌کند؛ زیرا هر آنچه مشتری در آن بارگذاری کرده باشد، در این محیط اجرا می‌شود. اگر فرایند ساخت بتواند به فایل‌های میزبان دسترسی پیدا کند، مدل جداسازی امنیتی عملاً شکست خورده است و تمام اقدامات بعدی صرفاً به کاهش خسارت محدود می‌شوند.

دومین شکست به پیکربندی اعتماد مربوط می‌شد. ساعت ۰۳:۲۶ روز ۲۱ اکتبر، یک پیکربندی نادرست در سازوکار اعتماد OpenID Connect باعث افشای یک اعتبارنامه ابری با عمر کوتاه شد. مهاجم از این اعتبارنامه برای بازیابی اطلاعات احراز هویت داخلی و یک کلید خصوصی SSH استفاده کرد و سپس به ماشینی نفوذ کرد که مسئول هماهنگی بارهای کاری مشتریان بود.

مهاجم پس از ورود به این ماشین، تاریخچه ذخیره‌شده ۳۵۳ فرایند ساخت را خواند؛ تاریخچه‌هایی که متغیرها و اطلاعات محرمانه منتقل‌شده به این فرایندها را نیز در بر می‌گرفتند. به گفته شرکت، گزارش‌های ثبت‌شده مشخص می‌کنند کدام محیط‌ها در معرض دسترسی قرار گرفته‌اند، اما نشان نمی‌دهند دقیقاً کدام متغیرها در داخل هر محیط رمزگشایی شده‌اند. به همین دلیل، رقم ۱۰۰ هزار یک سقف احتمالی است، نه تعداد قطعی متغیرهای افشاشده.

اگر سوابق ممیزی شما مشخص نمی‌کنند کدام اطلاعات محرمانه افشا شده‌اند، باید تمام اطلاعات محرمانه موجود در محدوده آسیب‌دیده را افشاشده فرض کنید. Railway از همه مشتریان خواست هر متغیر حساسی را که پیش از ۲۱ اکتبر روی این پلتفرم ذخیره کرده بودند، لغو و با مقدار جدید جایگزین کنند.

نگران‌کننده‌ترین بخش این حادثه، ابزارهای مورد استفاده مهاجمان بود. Railway این رویداد را رقابتی از نظر سرعت عامل‌های هوش مصنوعی توصیف می‌کند. به گفته این شرکت، مهاجمان از مدل‌هایی استفاده کرده بودند که محدودیت‌های ایمنی آن‌ها با کمک یک چارچوب اجرایی عامل مشابه ARTEX حذف شده بود. مهندسان ساعت ۱۳:۵۸ روز ۲۰ اکتبر، یعنی چند ساعت پس از نخستین بهره‌برداری از آسیب‌پذیری، متوجه فراخوانی‌های غیرعادی API در سامانه ثبت و توزیع بسته‌ها شدند. مهاجم مجموعه‌ای از عامل‌های خودکار بود، نه فردی که شخصاً فرمان‌ها را وارد کند. مهاجمان سرانجام ساعت ۰۹:۲۴ روز ۲۱ اکتبر به‌طور کامل از سامانه بیرون رانده شدند، اما عدم توازن میان مهاجمان و مدافعان تغییری ماندگار کرده است: توان عملیاتی حملات با استفاده از عامل‌های خودکار افزایش می‌یابد.

دفاع سایبری نیز باید با همین سرعت و مقیاس توسعه پیدا کند؛ در غیر این صورت، صرفاً به دلیل کندتر بودن شکست خواهد خورد.

صورتحساب، خود یک سامانه تشخیص حمله است

این حادثه باید نگاه تیم‌های فنی به کلیدهای API را تغییر دهد. رقم ۷۴۰ هزار دلار فقط میزان خسارت نیست؛ این مبلغ در واقع یک نشانه تشخیص حمله است که خیلی دیر شناسایی شده است. در سامانه‌ای که ابزارهای پایش مناسبی دارد، رفتار یک کلید سرقت‌شده می‌تواند سرقت آن را آشکار کند. سرعت مصرف اعتبار افزایش می‌یابد و الگوی فراخوانی‌ها تغییر می‌کند. کلیدی که معمولاً روزانه چند صد درخواست از یک منطقه جغرافیایی ارسال می‌کند، ممکن است ناگهان میلیون‌ها درخواست را از زیرساختی بفرستد که مشتری هرگز از آن استفاده نکرده است.

برای هر کلید باید یک الگوی رفتاری پایه تعریف شود: نرخ معمول درخواست‌ها، حجم معمول توکن مصرفی در هر فراخوانی، مدل‌های مورد استفاده، شبکه‌های مبدأ و ساعات فعالیت. هرگونه انحراف از این الگو باید هشدار فوری برای مسئول مربوطه ایجاد کند و این هشدار باید علاوه بر نمایش نمودار، یک اقدام مشخص را نیز در پی داشته باشد. تشخیص باید خودکار باشد؛ زیرا فاصله زمانی میان سرقت کلید و سوءاستفاده از آن اکنون ممکن است فقط چند دقیقه باشد. مهاجمان حمله را ساعت ۰۷:۲۸ آغاز کردند و مهندسان ساعت ۱۳:۵۸ متوجه فراخوانی‌های غیرعادی سامانه ثبت بسته‌ها شدند. این یعنی مهاجمان شش ساعت و نیم فرصت داشتند بدون مزاحمت فعالیت کنند.

وضعیت بازپرداخت هزینه‌ها نیز از زاویه‌ای دیگر همین مسئله را نشان می‌دهد. AWS Bedrock و Google Gemini روند بازپرداخت هزینه‌های ناشی از تقلب را آغاز کرده‌اند. OpenAI درخواست‌ها را به‌صورت موردی بررسی می‌کند. Railway نیز موضع خود را تغییر داده است. این شرکت در ۲۶ اکتبر به مشتریان گفته بود امکان بازپرداخت هزینه‌های ایجادشده با کلیدهای دسترسی به خطر افتاده را ندارد؛ اما اکنون اعلام کرده است هزینه‌هایی را که ارائه‌دهندگان خدمات از بازپرداخت آن‌ها خودداری کنند، تقبل خواهد کرد.

سیاست بازپرداخت، ابزار امنیتی محسوب نمی‌شود. ابزارهای واقعی پیشگیری عبارت‌اند از سقف هزینه، هشدار و کلید قطع اضطراری دسترسی. این قابلیت‌ها باید پیش از وقوع حادثه وجود داشته باشند، نه پس از آن.

یک الگوی سرقت مشابه در چندین پلتفرم

Railway تنها قربانی این نوع حمله نبود. شرکت‌های OpenCode، Warp و Fireworks AI نیز بین ۶ تا ۲۳ اکتبر موارد مشابهی از سرقت اطلاعات دسترسی را افشا کردند. شرکت Wiz الگوی گسترده‌تر این سرقت اعتبارنامه‌ها را با نام «اکتبر سیاه» (Black October) مستند کرده است. سه پلتفرم، سه نوع نقص امنیتی متفاوت و یک هدف مشترک؛ کلیدهای دسترسی.

لایه عامل‌ها، یعنی نرم‌افزاری که میان یک مدل پایه و محیط عملیاتی قرار می‌گیرد، محل تمرکز حجم زیادی از اطلاعات محرمانه است. هر عامل برای انجام وظایف خود به کلیدهای دسترسی نیاز دارد و هر پلتفرمی که میزبان این عامل‌ها باشد، عملاً به مخزنی برای نگهداری کلیدها تبدیل می‌شود.

اقداماتی که از همین دوشنبه باید آغاز شوند

چهار تغییر وجود دارد که باید به ترتیب میزان تأثیرگذاری اجرا شوند. نخست، دامنه دسترسی هر کلید را محدود کنید. کلیدی که بدون محدودیت هزینه، از هر شبکه‌ای بتواند به هر مدلی متصل شود، عملاً یک چک سفیدامضا در اختیار دارنده آن قرار می‌دهد. مدل‌های مجاز و شبکه‌های مبدأ را محدود کنید و یک سقف سخت‌گیرانه برای هزینه تعیین کنید که مقدار پیش‌فرض آن پایین باشد. تعیین سقف هزینه، میزان خسارت احتمالی را محدود می‌کند و وقتی تشخیص حمله ساعت‌ها طول می‌کشد، همین مسئله اهمیت اساسی دارد.

دوم، کلیدها را طبق برنامه زمانی مشخص تعویض کنید، نه فقط زمانی که به سرقت آن‌ها مشکوک می‌شوید. Railway پس از وقوع حادثه، ۱٬۸۵۲ توکن مرتبط را بازنشانی کرد. تعویض برنامه‌ریزی‌شده کلیدها می‌توانست حتی پیش از شناسایی حمله، ارزش کلیدهای سرقت‌شده را برای مهاجمان کاهش دهد. کلیدی که هر ۳۰ روز منقضی می‌شود، برای سارق ارزش کمتری از کلیدی دارد که برای همیشه معتبر می‌ماند.

سوم، به‌جای تمرکز صرف بر خطاها، سرعت مصرف هزینه را زیر نظر بگیرید. بیشتر سامانه‌های پایش API به دنبال شناسایی شکست‌ها هستند؛ از جمله پاسخ‌های خطای ۵xx، پایان مهلت درخواست و رد شدن درخواست‌ها به دلیل محدودیت نرخ. اما یک کلید سرقت‌شده لزوماً با خطا مواجه نمی‌شود. برعکس، با موفقیت و در حجم بالا کار می‌کند. هشدار مهم زمانی فعال می‌شود که یک کلید در عرض یک ساعت، ده برابر میانگین مصرف روزانه خود هزینه ایجاد کند. چهارمین اقدام نیز این است که سیستم ساخت نرم‌افزار را محیطی بالقوه مخرب در نظر بگیرید.

از آنجا که در محیط ساخت کدهای غیرقابل اعتماد اجرا می‌شوند، باید جداسازی امنیتی این محیط به‌طور مستمر بررسی و تأیید شود، نه اینکه صرفاً آن را ایمن فرض کنیم. نفوذ به Railway از طریق نقصی ناشناخته انجام شد؛ بنابراین هیچ فهرست بررسی امنیتی از پیش آماده‌ای نمی‌توانست آن را شناسایی کند. راهکار، تشخیص در زمان اجراست: هرگاه فرایند ساخت به فایلی خارج از محدوده محیط ایزوله خود دسترسی پیدا کرد، باید ظرف چند ثانیه هشدار صادر شود.

درس اصلی این حادثه آن است که کلیدهای دسترسی به خدمات هوش مصنوعی اکنون به ارزشمندترین اعتبارنامه‌های بسیاری از شرکت‌ها تبدیل شده‌اند، اما همچنان با آن‌ها مانند کم‌اهمیت‌ترین اطلاعات دسترسی رفتار می‌شود. این کلیدها در متغیرهای محیطی ذخیره می‌شوند، ممکن است برای همیشه معتبر بمانند، از هر مکانی قابل استفاده‌اند و هزینه مصرف آن‌ها بر اساس تعداد توکن محاسبه می‌شود. هر تیمی که کلید دسترسی به یک ارائه‌دهنده هوش مصنوعی را ذخیره می‌کند، باید گزارش این حادثه را بخواند و از خود یک سؤال بپرسد: اگر امشب کلیدهای ما افشا شوند، چگونه متوجه خواهیم شد و با چه سرعتی می‌توانیم آن‌ها را از کار بیندازیم؟ اگر پاسخ این است که فردی صبح روز بعد داشبورد را بررسی خواهد کرد، این سرعت کافی نیست. اکنون کلیدها هدف اصلی مهاجمان هستند؛ بنابراین باید با همین نگاه از آن‌ها محافظت کرد.