عرضه عمومی API تصمیم‌گیری OpenAI با مدل GPT-6 Luna

www.unite.ai

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

عرضه عمومی API تصمیم‌گیری OpenAI مبتنی بر GPT-6 Luna

شرکت OpenAI در ۲۲ اکتبر ۲۰۲۶ اعلام کرد که API تصمیم‌گیری (Decisions API) را به‌صورت عمومی عرضه کرده است. با این اقدام، نقطه پایانی مبتنی بر مدل GPT-6 Luna از مرحله آزمایشی عمومی خارج می‌شود. هزینه ورودی این API به‌ازای هر یک میلیون توکن، ۰٫۱۰ دلار است. این رابط برنامه‌نویسی پاسخ‌هایی با قالب مشخص و دامنه محدود، مانند احتمال وقوع یک وضعیت، انتخاب یک گزینه یا امتیاز مبتنی بر معیارهای تعیین‌شده، ارائه می‌کند تا برنامه‌ها بتوانند محتوا را دسته‌بندی کنند، درخواست‌ها را به مسیر مناسب بفرستند و اولویت انجام کارها را تعیین کنند. اعلامیه OpenAI جزئیات این عرضه را تشریح کرده است.

به گفته OpenAI، این API توانایی‌های مدل Luna را بر پرسش‌هایی متمرکز می‌کند که پاسخ‌های محدود و مشخصی دارند و امکان تصمیم‌گیری تقریباً بلادرنگ را بر اساس متن، تصویر و ورودی‌های ساختاریافته فراهم می‌سازد. این شرکت می‌گوید نقطه پایانی جدید پاسخ‌ها را تا ۱۰ برابر سریع‌تر از زمانی ارائه می‌کند که همین پرسش‌ها از طریق Responses API به GPT-6 Luna فرستاده شوند.

OpenAI در ۲۲ سپتامبر ۲۰۲۶، مدل‌های GPT-6 Luna و GPT-6 Sol را معرفی کرد. این شرکت برای Luna به‌ازای هر یک میلیون توکن ورودی ۰٫۱۰ دلار و به‌ازای هر یک میلیون توکن خروجی ۰٫۵۰ دلار قیمت تعیین کرده بود. به گفته شرکت، قیمت API هر دو مدل در مقایسه با قیمت‌های تبلیغاتی GPT-5.6 به میزان ۵۰ درصد کاهش یافته است. OpenAI این دو مدل را گامی در جهت بهبود بهره‌وری هزینه‌ای در مرز توانایی‌های هوش مصنوعی توصیف می‌کند، اما همچنان GPT-6 Astra را بهترین مدل خود در مجموع توانایی‌ها می‌داند. این دو مدل از طریق API با شناسه‌های gpt-6-sol و gpt-6-luna در دسترس هستند.

API تصمیم‌گیری چگونه کار می‌کند؟

طبق مستندات توسعه‌دهندگان OpenAI، درخواست‌ها به مسیر POST /v1/decisions ارسال می‌شوند و در حال حاضر gpt-6-luna تنها مدل پشتیبانی‌شده است. هر درخواست شامل یک ورودی مشترک و بین ۱ تا ۴۰۰ پرسش است. ورودی مشترک می‌تواند یک رشته متنی یا آرایه‌ای مرتب از پیام‌ها، فراخوانی‌های ابزار و خروجی‌های آن‌ها باشد. پاسخ نیز آرایه‌ای با نام answers برمی‌گرداند که نام اختصاص‌یافته از سوی توسعه‌دهنده به هر پرسش را در خود حفظ می‌کند.

این API از سه نوع پرسش پشتیبانی می‌کند. پرسش از نوع گزاره (predicate) احتمالی بین صفر و یک برمی‌گرداند که نشان می‌دهد یک شرط تا چه اندازه درست است؛ برای مثال، احتمال وجود آسیب قابل مشاهده در عکس یک محصول. پرسش از نوع انتخاب (choice) یکی از گزینه‌های ازپیش‌تعریف‌شده توسعه‌دهنده را انتخاب می‌کند و علاوه بر آن، احتمال مربوط به هر گزینه و یک مقدار اطمینان را ارائه می‌دهد. پرسش از نوع امتیازدهی (score) نیز ورودی را بر اساس مجموعه‌ای مرتب از دو تا ده سطح معیار ارزیابی می‌کند و میانگین وزنی سطوح را با استفاده از احتمال هر سطح برمی‌گرداند. در نتیجه، امتیاز نهایی می‌تواند مقداری بین دو سطح تعیین‌شده باشد.

توسعه‌دهندگان می‌توانند داده‌های ساختاریافته را مستقیماً از طریق بخش محتوایی input_json در پیام کاربر ارسال کنند. تصاویر نیز می‌توانند به‌صورت داده‌های URL از نوع base64 درون‌خطی یا از طریق نشانی‌های عمومی HTTP یا HTTPS ارائه شوند. از آنجا که سابقه مکالمه را هم می‌توان در ورودی گنجاند، API قادر است درخواست را در بستر گفت‌وگوی قبلی و در کنار فراخوانی‌های تابع، فراخوانی ابزارهای سفارشی و خروجی آن‌ها ارزیابی کند. طبق مستندات، فایل‌ها، صوت و ارجاع به اقلام پشتیبانی نمی‌شوند و این نقطه پایانی ورودی‌های file_id را نیز نمی‌پذیرد.

برای تصمیم‌هایی که به پاسخ قبلی وابسته‌اند، مستندات به توسعه‌دهندگان توصیه می‌کند درخواست‌های جداگانه ارسال کنند. همچنین، اگر توسعه‌دهندگان به یک شیء JSON سفارشی یا فراخوانی ابزاری که مدل درخواست می‌کند نیاز داشته باشند، نه یکی از سه نوع پاسخ ساختاریافته این API، باید از قابلیت Structured Outputs یا فراخوانی تابع در Responses API استفاده کنند.

قابلیت‌های اضافه‌شده پس از مرحله آزمایشی عمومی

OpenAI اعلام کرده است که پس از پایان مرحله آزمایشی عمومی، یکپارچه‌سازی بومی با GPT-Live، ذخیره‌سازی موقت دستورها برای زمینه‌های تکرارشونده (prompt caching)، و امکان تعیین محل پردازش استنتاج در ایالات متحده و اتحادیه اروپا را اضافه کرده است. همچنین ظرفیت پردازش استنتاج در چند منطقه آسیایی افزایش یافته است. اکنون توسعه‌دهندگان می‌توانند ورودی‌های بومی JSON ارسال کنند، تصاویر را در دستورالعمل‌های پرسش بگنجانند و در هر درخواست تا ۴۰۰ پرسش مطرح کنند؛ یعنی دو برابر سقف قبلی.

فهرست تغییرات مستندات، پشتیبانی از ورودی تصاویر میزبانی‌شده با HTTP و HTTPS، ارزیابی سابقه مکالمه همراه با فراخوانی ابزارها و خروجی‌های آن‌ها، گزارش‌گیری از میزان استفاده سازمان و پشتیبانی از Private Link را نیز در بر می‌گیرد. نقطه پایانی دریافت آمار مصرف، یعنی GET /v1/organization/usage/decisions، به کلید API مدیر با مجوز api.usage.read نیاز دارد. این نقطه پایانی میزان مصرف توکن و تعداد درخواست‌ها را برمی‌گرداند و امکان فیلترکردن یا گروه‌بندی داده‌ها بر اساس پروژه، کلید API یا مدل را فراهم می‌کند.

با قابلیت ذخیره‌سازی موقت دستورها، درخواست‌های تکراری می‌توانند از پیشوند یکسانی در ورودی مشترک استفاده کنند، مشروط بر آنکه طول این پیشوند دست‌کم ۱٬۰۲۴ توکن باشد. در این حالت، هزینه خواندن داده‌های ذخیره‌شده کاهش می‌یابد. محتوای اختصاصی هر پرسش، از جمله تصاویری که فقط به همان پرسش مربوط‌اند، جزو پیشوند قابل استفاده مجدد محسوب نمی‌شود. API به‌طور پیش‌فرض در انتهای ورودی مشترک یک نقطه مرزی ضمنی برای ذخیره‌سازی موقت در نظر می‌گیرد. توسعه‌دهندگان همچنین می‌توانند با تعیین کلید prompt_cache_key از سوی فراخواننده، نحوه استفاده مجدد از داده‌ها را بخش‌بندی کنند یا نقاط مرزی مشخصی را به‌صورت صریح علامت‌گذاری کنند.

با یکپارچه‌سازی GPT-Live، برنامه‌های صوتی می‌توانند هم‌زمان با رسیدن رونوشت‌های ورودی یا خروجی، تصمیم‌گیری را اجرا کنند. در این فرایند، Live رویدادی حاوی تصمیم تولید می‌کند تا برنامه بر اساس آن اقدام کند. در نمونه پیکربندی ارائه‌شده از سوی OpenAI که به session.triggers افزوده می‌شود، حالت چهره یک آواتار بر اساس به‌روزرسانی‌های رونوشت انتخاب می‌شود. این شرکت همچنین توضیح می‌دهد که یک عامل پشتیبانی مشتری می‌تواند از همین الگو برای تصمیم‌گیری درباره طرح پرسش روشن‌کننده، هدایت درخواست به بخش مناسب یا ارجاع موضوع به سطح بالاتر استفاده کند.

کاربردهای گزارش‌شده و ارزیابی‌های اولیه

OpenAI می‌گوید تیم‌های داخلی این شرکت هم‌اکنون از API تصمیم‌گیری در فرایندهای محصولی و کسب‌وکار استفاده می‌کنند. تیم dots از آن برای کاهش زمان پاسخ‌گویی و بهبود تعامل‌پذیری بهره می‌برد. تیم امور مالی شخصی از این ابزار برای دسته‌بندی شرح تراکنش‌ها استفاده می‌کند. تیم ارتباطات نیز پوشش رسانه‌ای را بر اساس موضوع دسته‌بندی می‌کند و به آن امتیاز می‌دهد تا مشخص شود مطالب منتشرشده روایت‌های کلیدی را تقویت می‌کنند یا به چالش می‌کشند؛ این کار به شناسایی مواردی کمک می‌کند که نیازمند بررسی دقیق‌تر هستند.

مشتریانی که در اعلامیه OpenAI نقل‌قول شده‌اند، از بهبود سرعت و کاهش هزینه در ارزیابی‌های خود خبر داده‌اند. بیسواروپ پالیت، معاون مدیریت محصول در بخش پلتفرم و یکپارچه‌سازی Box، گفت ترکیب Decisions API با Box Extract در آزمایشی شامل ۳۰ پرونده گواهی بیمه، انتخاب مسیر را حدود پنج برابر سریع‌تر کرد و در عین حال همان دقت Responses API را حفظ کرد. در این فرایند، پرونده‌هایی که سطح اطمینان پایین‌تری داشتند برای بررسی به کارشناسان ارجاع داده شدند.

ای‌جی استویونبرگ، مهندس ارشد Datadog، گفت این API برای ارزیابی خطر دستورهای rshell تولیدشده توسط عامل هوش مصنوعی پیش از اجرا به کار رفت. به گفته او، تأخیر صدک ۹۵ در این روش ۴۰ برابر کمتر از مدل‌های پیشرفته موجود بود، در حالی که دقت قابل مقایسه‌ای حفظ شد.

رنه سلطان، مهندس پژوهش در Ramp، گفت این API فرایند نسبت‌دادن هزینه‌های هوش مصنوعی به کارهای زیربنایی را در مقایسه با استفاده از GPT-6 Luna چهار برابر سریع‌تر و ۳۰ درصد ارزان‌تر کرد، بدون آنکه دقت کاهش یابد.

اجیت گروال، مهندس Sierra، گفت این API در بخش‌هایی از فرایند هماهنگ‌سازی این شرکت، اقدام بعدی را در جریان مکالمات زنده با مشتریان انتخاب می‌کند. تأخیر صدک ۹۵ در این فرایند کمتر از ۲۸۰ میلی‌ثانیه است؛ یعنی عملکرد آن حدود سه برابر سریع‌تر و هزینه هر فراخوانی ۹۰ درصد کمتر از روش قبلی شرکت است، بدون آنکه نتایج حاصل برای مشتریان افت کند.

اندرو شو، مدیر ارشد فناوری Speak، نیز گفت یکپارچه‌سازی Decisions API با GPT-Live در آزمایش‌های این شرکت، زمان رسیدن به اقدام بعدی را بیش از ۹۰ درصد کاهش داد و از ۱٫۴ ثانیه به ۰٫۱۳ ثانیه رساند.

قیمت‌گذاری و کنترل داده‌ها

هزینه استفاده از Decisions API به‌ازای هر یک میلیون توکن ورودی ۰٫۱۰ دلار و به‌ازای هر یک میلیون توکن ورودی خوانده‌شده از حافظه موقت ۰٫۰۱ دلار است. OpenAI فقط برای توکن‌های ورودی هزینه دریافت می‌کند و هزینه جداگانه‌ای برای توکن‌های خروجی در نظر نمی‌گیرد. برای پردازش منطقه‌ای، هزینه اضافی اعمال می‌شود و ورودی‌های دارای زمینه طولانی نیز مشمول ضرایب قیمت‌گذاری مربوط به خود هستند. نرخ خواندن و نوشتن حافظه موقت با نرخ‌های استاندارد قابلیت ذخیره‌سازی موقت دستورها در gpt-6-luna یکسان است.

پردازش منطقه‌ای در ایالات متحده و اروپا، شامل منطقه اقتصادی اروپا و سوئیس، پشتیبانی می‌شود. امکان تعیین محل اقامت داده‌ها در تمام مناطق پشتیبانی‌شده API وجود دارد و قابلیت‌های نگهداری صفر داده (Zero Data Retention) و استفاده مطابق با الزامات HIPAA نیز برای مشتریان واجد شرایط در دسترس هستند. این API از طریق نقطه پایانی اختصاصی Decisions و محیط آزمایشی Decisions Playground در پلتفرم OpenAI قابل استفاده است. توسعه‌دهندگان می‌توانند پیش از نوشتن کد، پرسش‌های خود را در این محیط با متن‌ها یا تصاویر دلخواهشان آزمایش کنند.