AWS Bedrock با افزودن ایجنت‌های OpenAI هزینه‌ها را ۲۲ درصد کاهش می‌دهد

shattered.io

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

آمازون وب سرویسز (AWS) در دو هفته نخست اکتبر ۲۰۲۶ کاری را انجام داد که به ندرت در فضای عمومی انجام می‌دهد: پذیرفت که اجرای بدون نظارت پلتفرم ایجنتی خود بیش از حد پرهزینه شده است. AWS در تاریخ ۷ اکتبر، تاریخچه مستندات Bedrock را به‌روزرسانی کرد و اعلام کرد تخصیص هزینه بر اساس اصل IAM، یعنی امکان نسبت دادن یک هزینه دلاری به کاربر یا نقشی که درخواست را ایجاد کرده است، اکنون به نقطه پایانی استنتاج جدید bedrock-mantle نیز گسترش یافته و دیگر فقط محدود به مسیر اصلی bedrock-runtime نیست.

سه هفته پیش از آن، AWS پیش‌نمایش عمومی Bedrock Managed Agents مجهز به OpenAI را آغاز کرده بود؛ قابلیتی که بر نسخه سفارشی‌شده‌ای از Agents API شرکت OpenAI ساخته شده و مستقیماً با منابع بومی AWS یکپارچه است. هم‌زمان، AWS Well-Architected Agent نیز معرفی شد؛ سرویسی که محیط AWS مشتری را بررسی می‌کند و پیشنهادهای اصلاحی ارائه می‌دهد. همچنین تا پایان اکتبر، AWS قصد دارد سطح قیمت‌گذاری مبتنی بر تعهد برای Bedrock AgentCore Runtime را فعال کند که برای تیم‌هایی که سطح مشخصی از مصرف را متعهد می‌شوند، نرخ محاسباتی منتشرشده را حدود ۲۲ درصد کاهش می‌دهد.

هیچ‌کدام از این چهار تغییر به‌تنهایی خبر بزرگی ایجاد نکردند، اما در کنار هم مسئله‌ای را نشان می‌دهند که یک ارائه‌دهنده رایانش ابری اکنون در تلاش برای حل آن است: ایجنت‌های هوش مصنوعی که برای دقایق یا ساعت‌ها اجرا می‌شوند، ابزار فراخوانی می‌کنند، حافظه چندمرحله‌ای دارند و قبض‌هایی تولید می‌کنند که نمی‌توان آن‌ها را به یک تیم، پروژه یا دلیل مشخص نسبت داد. قیمت‌گذاری Amazon Bedrock AgentCore نیز به موضوعی مستقل برای جست‌وجو تبدیل شده است، زیرا طبق داده‌های حجم جست‌وجوی کلیدواژه‌ها در اکتبر ۲۰۲۶، تیم‌های مالی در آمریکا ماهانه حدود ۱۶۰۰ بار این عبارت را جست‌وجو می‌کنند؛ رقمی که با نگرانی فزاینده تیم‌های FinOps درباره هزینه‌های غیرقابل توضیح ایجنت‌ها هم‌خوانی دارد.

AWS در این فصل دقیقاً چه چیزی عرضه کرد

سه انتشار جداگانه AWS طی چند هفته به یکدیگر نزدیک شدند و باید آن‌ها را از هم تفکیک کرد، زیرا وبلاگ اطلاع‌رسانی AWS آن‌ها را در قالب یک داستان کلی درباره عرضه قابلیت‌های بیشتر هوش مصنوعی عاملی مطرح کرده است. نخستین مورد، Bedrock Managed Agents مجهز به OpenAI است؛ یک پیش‌نمایش عمومی که به تیم‌ها اجازه می‌دهد Agents API خود OpenAI را در داخل Bedrock اجرا کنند، بدون آن‌که مجبور باشند یک محیط اجرای مستقل ایجاد کنند.

AWS این یکپارچه‌سازی را به شکل بومی AWS طراحی کرده است؛ یعنی ایجنت می‌تواند به منابع خود مشتری در AWS، از جمله نقش‌های Identity and Access Management، دسترسی داشته باشد و مانند یک جعبه سیاه خارجی که صرفاً از طریق شبکه APIهای AWS را فراخوانی می‌کند عمل نمی‌کند.

دومین قابلیت، AWS Well-Architected Agent است که آن هم در پیش‌نمایش عمومی قرار دارد. این سرویس محیط فعلی AWS مشتری را تحلیل می‌کند و پیشنهادهایی درباره هزینه، امنیت، عملکرد و تاب‌آوری ارائه می‌دهد که با اهداف تجاری اعلام‌شده سازمان هماهنگ هستند. ایده اصلی این است که به‌جای آن‌که یک معمار راهکار انسانی سالی یک‌بار بررسی Well-Architected را انجام دهد، یک ایجنت دائماً حساب کاربری را زیر نظر داشته باشد و اصلاحات قابل اجرا را هم‌زمان با ظهور مشکلات پیشنهاد کند.

سومین تغییر، و مهم‌ترین مورد از نظر مالی، تغییر در تخصیص هزینه بر اساس IAM principal است. Amazon Bedrock اکنون می‌تواند هزینه استنتاج را به کاربر یا نقش IAM مشخصی که درخواست را ایجاد کرده نسبت دهد؛ قابلیتی که برای درخواست‌های ارسال‌شده از طریق endpoint موسوم به bedrock-mantle اکنون فعال شده و پیش‌تر فقط bedrock-runtime را پوشش می‌داد. به زبان ساده، شرکتی که ده‌ها ایجنت در تیم‌های مختلف اجرا می‌کند می‌تواند بفهمد کدام نقش، حساب سرویس یا کاربر باعث ایجاد یک هزینه مشخص شده است، به‌جای آن‌که پس از دریافت قبض، گزارش‌های CloudTrail را با یک رقم کلی تطبیق دهد.

سازوکار قیمت‌گذاری AgentCore

AgentCore لایه اجرای زیرساختی در پشت بسیاری از این قابلیت‌ها است و AWS برای آن قیمت‌گذاری جزئی مبتنی بر مصرف منتشر کرده است؛ بدون هزینه اولیه یا حداقل تعهد. این ارقام اهمیت دارند، زیرا توضیح می‌دهند چرا تخصیص هزینه به یک موضوع فوری تبدیل شده است.

در microVMهای نسل اول، AWS برای پردازنده نرخ ۰٫۰۸۹۵ دلار به ازای هر vCPU-ساعت و برای حافظه ۰٫۰۰۹۴۵ دلار به ازای هر GB-ساعت دریافت می‌کرد. نسل دوم که محیط اجرای پیش‌فرض فعلی است، در حالت پرداخت بر اساس مصرف، برای هر vCPU-ساعت ۰٫۱۲۷۶ دلار و برای هر GB-ساعت حافظه ۰٫۰۱۶۹ دلار هزینه دارد؛ افزایشی که به قابلیت‌های گسترده‌تر این معماری مرتبط است.

تغییر مهم تا پایان اکتبر ۲۰۲۶، اضافه شدن نرخ مبتنی بر تعهد در کنار قیمت مصرفی است: برای microVMهای نسل دوم، تیم‌هایی که سطح مشخصی از مصرف را متعهد شوند به‌جای پرداخت کاملاً مصرفی، ۰٫۰۹۹۷ دلار به ازای هر vCPU-ساعت و ۰٫۰۱۳۲ دلار به ازای هر GB-ساعت پرداخت خواهند کرد. محاسبه این ارقام نشان می‌دهد تخفیف پردازنده و حافظه کمی کمتر از ۲۲ درصد خواهد بود؛ کاهش قابل توجهی برای سازمان‌هایی که ایجنت‌ها را در مقیاس تولیدی اجرا می‌کنند.

مستندات AWS نمونه‌ای ارائه می‌کند که نشان می‌دهد این هزینه‌ها چگونه روی هم جمع می‌شوند: یک نشست ۶۰۰ ثانیه‌ای که ۴ گیگابایت حافظه با نرخ نسل اول مصرف کند، فقط برای حافظه حدود ۰٫۰۰۶۳ دلار هزینه دارد؛ پیش از در نظر گرفتن پردازنده، شبکه یا هزینه‌های NAT Gateway که در زمان بیکار بودن ایجنت نیز ممکن است ادامه پیدا کنند. در نمونه مستندشده AWS، نمونه‌های اجرا بر اساس هزینه نشست EC2 به‌علاوه ۱۲ درصد هزینه مدیریت محاسبه می‌شوند و حافظه بیکار تنها پس از ۱۲۰ ثانیه آزاد می‌شود؛ جزئیاتی که برای معماری‌هایی مهم است که بین فراخوانی ابزارها متوقف می‌شوند اما به‌طور کامل پایان نمی‌یابند.

حافظه نیز ساختار هزینه جداگانه‌ای دارد. حافظه کوتاه‌مدت برای هر هزار رویداد جدید ۰٫۲۵ دلار هزینه دارد. ذخیره‌سازی حافظه بلندمدت با راهبردهای داخلی AWS ماهانه برای هر هزار رکورد ذخیره‌شده ۰٫۷۵ دلار است، در حالی که راهبردهای بازنویسی یا مدیریت‌شده توسط کاربر این رقم را به ۰٫۲۵ دلار کاهش می‌دهند. بازیابی حافظه بلندمدت نیز برای هر هزار بازیابی ۰٫۵۰ دلار هزینه دارد. هرکدام از این هزینه‌ها کوچک هستند، اما در هزاران نشست هم‌زمان ایجنتی در یک سازمان بزرگ می‌توانند به هزینه‌ای قابل توجه تبدیل شوند.

چرا نسبت دادن هزینه به مشکل فوری تبدیل شد

زیرساخت مشترک هوش مصنوعی یک مشکل حسابداری ویژه دارد که رایانش سنتی در چنین مقیاسی با آن روبه‌رو نبود: یک endpoint مدل می‌تواند هم‌زمان به ده تیم، بیست ایجنت و صدها کاربر انسانی سرویس دهد، اما در نهایت قبض فقط عبارتی مانند «Bedrock inference» و یک رقم کلی نشان می‌دهد.

پیش از امکان تخصیص هزینه بر اساس IAM principal، تیم مالی برای یافتن پروژه‌ای که بودجه هوش مصنوعی خود را مصرف کرده بود مجبور بود گزارش‌های CloudTrail را به داده‌های صورتحساب تطبیق دهد؛ کاری که فراتر از چند ایجنت مقیاس‌پذیر نیست و زمانی که سازمان‌ها ایجنت‌هایی با قابلیت ایجاد زیرایجنت اجرا کنند، عملاً غیرممکن می‌شود.

بحث‌های مطرح‌شده در فضای FinOps در اواخر سپتامبر و اوایل اکتبر ۲۰۲۶، از جمله در پادکست What’s New in Cloud FinOps، بر چهار کنترل مشخص تمرکز داشته‌اند: سقف هزینه برای هر ایجنت، گردش تأیید پیش از افزایش مصرف منابع توسط ایجنت، بودجه سخت‌گیرانه برای هر ایجنت که اجرای آن را متوقف کند، و تجمیع یکپارچه هزینه‌ها در داشبوردهایی که تیم‌های مالی برای هزینه‌های سنتی ابری استفاده می‌کنند.

لایه کانتینری زیر این ایجنت‌ها نیز هم‌زمان در حال تغییر است. AWS بارهای کاری ایجنتی را با Amazon ECS Express Mode و Amazon EKS Auto Mode همراه کرده و کنترل‌پلین تأمین‌شده EKS را با توافق‌نامه سطح دسترسی ۹۹٫۹۹ درصدی معرفی کرده است؛ موضوعی که نشان می‌دهد کانتینرها همچنان بستر اصلی اجرای ایجنت‌های هوش مصنوعی در محیط تولید باقی مانده‌اند.

مقایسه رویکرد AWS با مایکروسافت و گوگل

AWS تنها بازیگر این حوزه نیست. سرویس Foundry Agent Service مایکروسافت در Azure AI Foundry رویکرد متفاوتی برای همین مشکل هزینه دارد. طبق صفحه قیمت‌گذاری منتشرشده مایکروسافت، برای ایجاد یا اجرای ایجنت‌های بومی Foundry که از promptها و workflowها استفاده می‌کنند هزینه اضافی دریافت نمی‌شود و ایجنت‌های میزبانی‌شده بر اساس محاسبات کانتینری مصرف‌شده در هر ساعت هزینه‌گذاری می‌شوند.

این رویکرد با مدل AWS تفاوت اساسی دارد؛ جایی که AgentCore هزینه پردازنده، حافظه، رویدادهای حافظه کوتاه‌مدت، ذخیره‌سازی حافظه بلندمدت و بازیابی حافظه بلندمدت را به‌صورت جداگانه محاسبه می‌کند. مدل مایکروسافت در ظاهر ساده‌تر است، اما در مقابل، مشتری ممکن است جزئیات تفکیک هزینه‌ای را که AWS اکنون در سطح IAM ایجاد می‌کند از دست بدهد.

در عمل، AWS، مایکروسافت و گوگل اکنون تقریباً به اندازه دسترسی به مدل‌ها، بر سر ابزارهای حاکمیتی رقابت می‌کنند. خریداران سازمانی دیگر فقط نمی‌پرسند کدام شرکت بهترین فهرست مدل‌ها را دارد؛ آن‌ها می‌خواهند بدانند کدام ارائه‌دهنده می‌تواند در لحظه مشخص کند کدام تیم داخلی مسئول افزایش هزینه است و کدام سرویس اجازه می‌دهد پیش از وقوع هزینه، سقف مصرف ایجنت تعیین شود.

قابلیتAWS Bedrock AgentCoreMicrosoft Foundry Agent Service
هزینه ایجاد/هماهنگی ایجنتدر قالب مصرف پردازنده و حافظه محاسبه می‌شودبرای ایجنت‌های بومی Foundry مبتنی بر prompt و workflow هزینه اضافی ندارد
واحد هزینه محاسباتی۰٫۱۲۷۶ دلار برای هر vCPU-ساعت و ۰٫۰۱۶۹ دلار برای هر GB-ساعتمحاسبات کانتینری زیربنایی به‌صورت ساعتی
تخفیف نرخ تعهدیحدود ۲۲ درصد کاهش برای پردازنده و حافظهدر مستندات فعلی منتشر نشده است
هزینه حافظه/نشستهزینه جداگانه برای حافظه کوتاه‌مدت و بلندمدتبه‌عنوان ردیف جداگانه ارائه نشده است
نسبت دادن هزینهبر اساس IAM principal برای bedrock-mantle و bedrock-runtimeدر مستندات قیمت‌گذاری منتشرشده مشخص نشده است

مسیر توسعه: از عرضه AgentCore تا قیمت‌گذاری تعهدی

روند توسعه AgentCore در سال جاری مسیری تدریجی از یک محیط اجرای آزمایشی به زیرساخت تولیدی قابل پرداخت داشته است. AgentCore در اوایل ۲۰۲۶ به دسترس‌پذیری عمومی رسید تا شکافی مشخص را پر کند: ایجنت‌هایی که ابزار فراخوانی می‌کنند، حافظه چندمرحله‌ای دارند و برای دقایق یا ساعت‌ها اجرا می‌شوند با مدل درخواست-پاسخ اولیه Lambda سازگار نیستند.

AWS در سپتامبر ۲۰۲۶ با AgentCore Runtime v2 بخش زیادی از فاصله عملکردی را کاهش داد و تأخیر شروع سرد در صدک ۷۵ را برای تصاویر کانتینری ۲۰۰ مگابایتی تا ۲ گیگابایتی به حدود ۱٫۹ تا ۲ ثانیه رساند؛ یعنی حدود ۹۰ درصد کاهش نسبت به بالاترین مقدار در محدوده قدیمی.

آنچه اکتبر به این مسیر اضافه کرد، لایه حاکمیتی بود که هنگام عرضه قابلیت‌های عملکردی در سپتامبر کمتر دیده می‌شد: تخصیص هزینه بر اساس IAM principal، قیمت‌گذاری مبتنی بر تعهد، ایجنت بررسی‌کننده Well-Architected و گزینه ایجنت مدیریت‌شده مجهز به OpenAI همگی در فاصله حدود سه تا چهار هفته معرفی شدند.

معنای این تغییرات برای بودجه‌های هوش مصنوعی سازمانی

برای تیم‌هایی که اکنون ایجنت‌های تولیدی را روی Bedrock اجرا می‌کنند، چند اقدام عملی اهمیت دارد. نخست، باید سطح قیمت‌گذاری تعهدی پیش از عرضه گسترده بررسی شود، زیرا کاهش حدود ۲۲ درصدی در پردازنده و حافظه می‌تواند اقتصاد اجرای یک ناوگان ایجنتی با مصرف پایدار را تغییر دهد.

دوم، تخصیص هزینه بر اساس IAM principal تنها با فعال شدن قابلیت خودکار نمی‌شود. تیم‌ها باید نقش‌های IAM خود را طوری سازمان‌دهی کنند که ایجنت‌ها، پروژه‌ها یا واحدهای تجاری مختلف به principalهای جداگانه و قابل ردیابی متصل باشند.

سوم، ورود Bedrock Managed Agents مجهز به OpenAI گزینه تازه‌ای برای تیم‌های خرید ایجاد می‌کند: اجرای Agents API شرکت OpenAI در محدوده امنیتی و صورتحساب AWS، با دسترسی مستقیم به IAM، VPC و مجوزهای منابع AWS.

مشکل هزینه بیکار که بسیاری نادیده گرفته‌اند

یکی از جزئیات مهم در مستندات AgentCore این است که هنگام انتظار مدل یا ابزار، در صورتی که پردازش پس‌زمینه‌ای از CPU استفاده نکند، هزینه پردازنده اعمال نمی‌شود؛ اما حافظه برای تمام مدتی که نشست فعال است همچنان هزینه دارد.

این عدم تقارن باعث می‌شود ایجنت‌هایی که بیشتر زمان خود را در انتظار پاسخ APIهای خارجی می‌گذرانند، همچنان هزینه حافظه پرداخت کنند. همچنین با توجه به زمان ۱۲۰ ثانیه‌ای آزادسازی حافظه بیکار، معماری‌هایی که میان مراحل مختلف مکث می‌کنند ممکن است هزینه‌ای بپردازند که از دید محاسباتی آشکار نیست.

مولفه هزینه AgentCoreنرخعامل ایجاد هزینه
CPU نسل دوم (مصرفی)۰٫۱۲۷۶ دلار به ازای هر vCPU-ساعتپردازش فعال هنگام استدلال یا اجرای ایجنت
CPU نسل دوم (تعهدی)۰٫۰۹۹۷ دلار به ازای هر vCPU-ساعتسطح مصرف متعهدشده
حافظه نسل دوم (مصرفی)۰٫۰۱۶۹ دلار به ازای هر GB-ساعتکل مدت نشست، حتی زمان انتظار I/O
حافظه کوتاه‌مدت۰٫۲۵ دلار برای هر هزار رویداد جدیدهر رویداد حافظه جدید نوشته‌شده
ذخیره حافظه بلندمدت۰٫۷۵ دلار برای هر هزار رکورد در ماهرکوردهای نگهداری‌شده
بازیابی حافظه بلندمدت۰٫۵۰ دلار برای هر هزار بازیابیهر بار خواندن حافظه ذخیره‌شده

فشار رقابتی از سوی چارچوب‌های متن‌باز ایجنتی

AWS همچنین روی یک چارچوب متن‌باز ایجنتی کار کرده است که برخلاف انتظار، روی ابرهای رقیب نیز اجرا می‌شود و مشتری را کاملاً به Bedrock محدود نمی‌کند. منطق احتمالی این است که AWS ترجیح می‌دهد لایه هماهنگی پیش‌فرض توسعه‌دهندگان باشد، حتی اگر بخشی از بارهای کاری در نهایت روی Azure یا Google Cloud اجرا شوند.

این راهبرد در کنار فشار برای حاکمیت هزینه قرار دارد. ارائه‌دهنده‌ای که هم چارچوب هماهنگی و هم ابزار نسبت دادن هزینه را کنترل کند، می‌تواند حتی زمانی که محاسبات زیربنایی از نظر فنی در جای دیگری اجرا می‌شوند، جایگاه خود را حفظ کند.

چشم‌انداز دو فصل آینده

چند روند از این مجموعه عرضه‌ها احتمالاً تا اوایل ۲۰۲۷ ادامه خواهد یافت. نخست، سقف هزینه برای هر ایجنت و گردش‌های تأیید احتمالاً از فهرست درخواست‌های FinOps به قابلیت‌های واقعی AWS تبدیل خواهند شد. دوم، انتظار می‌رود مایکروسافت و گوگل ابزارهای دقیق‌تر نسبت دادن هزینه برای Foundry Agent Service و Vertex AI ارائه کنند.

سوم، تخفیف تعهدی AgentCore احتمالاً آغاز چندین سطح قیمت‌گذاری برای محاسبات ایجنتی خواهد بود. چهارم، Bedrock Managed Agents مجهز به OpenAI در صورت استقبال کاربران ممکن است طی دو تا سه فصل از پیش‌نمایش عمومی به دسترس‌پذیری عمومی برسد. پنجم، احتمال دارد نخستین گزارش عمومی از یک حادثه هزینه‌ای ناشی از اجرای کنترل‌نشده ایجنت‌ها در سال ۲۰۲۷ منتشر شود.

پرسش‌های متداول

Amazon Bedrock AgentCore چیست؟
AgentCore مجموعه‌ای از قابلیت‌های مدیریت‌شده AWS برای استقرار و اجرای ایجنت‌های هوش مصنوعی است که Runtime، Gateway، Identity، Memory، Observability، Browser Tool و Code Interpreter را شامل می‌شود.

هزینه Bedrock AgentCore چقدر است؟
در microVMهای نسل دوم، قیمت مصرفی ۰٫۱۲۷۶ دلار برای هر vCPU-ساعت و ۰٫۰۱۶۹ دلار برای هر GB-ساعت است. سطح تعهدی جدید این نرخ‌ها را حدود ۲۲ درصد کاهش می‌دهد.

Bedrock Managed Agents مجهز به OpenAI چیست؟
این قابلیت پیش‌نمایش عمومی AWS است که نسخه‌ای سفارشی از Agents API شرکت OpenAI را در داخل Bedrock و همراه با منابع و مجوزهای AWS اجرا می‌کند.

AWS Well-Architected Agent چه کاری انجام می‌دهد؟
این سرویس محیط AWS مشتری را تحلیل کرده و پیشنهادهایی برای هزینه، امنیت، عملکرد و تاب‌آوری ارائه می‌دهد.

چه چیزی در تخصیص هزینه Bedrock تغییر کرده است؟
AWS امکان نسبت دادن هزینه استنتاج به IAM principal را به endpoint موسوم به bedrock-mantle گسترش داده است.

چرا حافظه هنگام بیکار بودن ایجنت همچنان هزینه دارد؟
زیرا در زمان انتظار I/O، هزینه CPU متوقف می‌شود اما حافظه تا زمانی که نشست فعال است همچنان محاسبه می‌شود.

آیا Bedrock Managed Agents مجهز به OpenAI برای استفاده تولیدی آماده است؟
این قابلیت هنوز در مرحله پیش‌نمایش عمومی است و قیمت، SLA و دامنه قابلیت‌های آن ممکن است پیش از عرضه نهایی تغییر کند.