اوپن‌ای‌آی ابزار جدیدی معرفی کرد که تصمیم‌گیری را تا ۱۰ برابر سریع‌تر می‌کند
اوپن‌ای‌آی دسترسی عمومی به رابط برنامه‌نویسی کاربردی (API) جدید خود با نام Decisions API را فراهم کرده است؛ ابزاری که به توسعه‌دهندگان امکان می‌دهد وظایف نیازمند تصمیم‌گیری سریع را با هوش مصنوعی، در زمانی کوتاه‌تر و با هزینه کمتر انجام دهند.
این شرکت روز پنجشنبه، ۲۲ اکتبر، از عرضه گسترده این فناوری خبر داد. اوپن‌ای‌آی نخستین بار در رویداد توسعه‌دهندگان خود در ۲۹ سپتامبر آن را معرفی کرده بود.
بر اساس توضیحات اوپن‌ای‌آی، Decisions API می‌تواند در مقایسه با استفاده از مدل زیربنایی از طریق رابط برنامه‌نویسی کاربردی Responses API، تصمیم‌ها را تا ۱۰ برابر سریع‌تر اتخاذ کند. این قابلیت، ابزار جدید را برای برنامه‌هایی مناسب می‌کند که به پاسخ‌هایی تقریباً آنی نیاز دارند.
نحوه عملکرد Decisions API
برخلاف مدل‌های زبانی بزرگ (LLM) سنتی که پاسخ‌های مفصل تولید می‌کنند، Decisions API بر انتخاب پاسخ از میان گزینه‌های ازپیش‌تعیین‌شده تمرکز دارد.
توسعه‌دهندگان می‌توانند پرسش‌ها و پاسخ‌های احتمالی را در اختیار این ابزار قرار دهند تا مدل اطلاعات را دسته‌بندی کند، اقدامات مناسب را برگزیند یا امتیازهای اطمینان را محاسبه کند.
این رابط برنامه‌نویسی کاربردی از سه نوع خروجی پشتیبانی می‌کند: برآورد احتمال، انتخاب میان چند گزینه و امتیازدهی بر اساس معیارهای ازپیش‌تعیین‌شده.
اوپن‌ای‌آی این فناوری را با اصلاح مدل زبانی موجود خود توسعه داده است تا زمان پردازش و هزینه‌ها را کاهش دهد؛ بنابراین، برای ساخت آن یک مدل کاملاً مجزا از ابتدا آموزش نداده است.
نیکونج هاندا، مدیر محصول رابط‌های برنامه‌نویسی کاربردی در اوپن‌ای‌آی، به تک‌کرانچ گفت که این شرکت زمان پاسخ‌گویی را از یک تا سه ثانیه به حدود ۱۰۰ تا ۱۸۰ میلی‌ثانیه کاهش داده است.
عملکرد و قیمت‌گذاری
اوپن‌ای‌آی Decisions API را با تمرکز بر کاهش زمان پاسخ‌گویی و هزینه پردازش عرضه کرده است.
به گفته نیکونج هاندا، مدیر محصول رابط‌های برنامه‌نویسی کاربردی این شرکت، زمان تصمیم‌گیری از یک تا سه ثانیه به حدود ۱۰۰ تا ۱۸۰ میلی‌ثانیه رسیده است.
| ویژگی | جزئیات |
|---|---|
| زمان پاسخ‌گویی هوش مصنوعی سنتی | ۱ تا ۳ ثانیه |
| زمان پاسخ‌گویی Decisions API | ۱۰۰ تا ۱۸۰ میلی‌ثانیه |
| هزینه ورودی | ۰٫۱۰ دلار به‌ازای هر یک میلیون توکن |
| هزینه ورودی ذخیره‌شده در حافظه نهان | ۰٫۰۱ دلار به‌ازای هر یک میلیون توکن |
| هزینه توکن‌های خروجی | بدون هزینه |
| حداکثر تعداد پرسش در هر درخواست | ۴۰۰ پرسش |
| ورودی‌های پشتیبانی‌شده | متن، تصویر و داده‌های ساختاریافته |
شرکت‌های Box، Datadog، Ramp و Speak از نخستین مشتریان این ابزار هستند.
اندرو هسو، مدیر ارشد فناوری شرکت Speak، گفت این پلتفرم آموزش زبان توانسته است فاصله زمانی میان اقدامات هوش مصنوعی را از ۱٫۴ ثانیه به ۰٫۱۳ ثانیه کاهش دهد؛ بهبودی بیش از ۹۰ درصدی.
رقابت با TypeSafe
عرضه این ابزار، اوپن‌ای‌آی را وارد رقابت با شرکت نوپای TypeSafe می‌کند که مدل تصمیم‌گیری Jev را توسعه داده است.
ارزش‌گذاری TypeSafe اخیراً به حدود ۷٫۶ میلیارد دلار رسیده است. شرکت‌های دیگری، از جمله Liquid و Base Lab، نیز مدل‌های رقیب خود را معرفی کرده‌اند.
جدول زیر جایگاه این مدل‌ها را بر اساس رتبه‌های گزارش‌شده در دو معیار عمومی ارزیابی مقایسه می‌کند.
| مدل هوش مصنوعی | شاخص AIM System One | شاخص تصمیم‌گیری Artificial Analysis |
|---|---|---|
| TypeSafe Jev | رتبه هفتم | رتبه سوم |
| مدل تصمیم‌گیری اوپن‌ای‌آی | رتبه هشتم | رتبه چهاردهم |
| Liquid D1 Ultra | عملکرد قوی | عملکرد قوی |
| Base Lab Elephant-1 | عملکرد قوی | عملکرد قوی |
رتبه دقیق Liquid D1 Ultra و Base Lab Elephant-1 اعلام نشده است؛ ازاین‌رو، برای این دو مدل رتبه عددی در نظر گرفته نشده است. همچنین، با به‌روزرسانی معیارهای ارزیابی، رتبه‌بندی‌ها ممکن است تغییر کنند.
مدل‌های هوش مصنوعی ممکن است باز هم سریع‌تر شوند
اوپن‌ای‌آی معتقد است که با بهبودهای بیشتر می‌توان زمان پاسخ‌گویی را به حدود ۶۰ میلی‌ثانیه کاهش داد.
هاندا مطرح کرد که چنین سرعتی در نهایت می‌تواند به توسعه‌دهندگان امکان دهد برای تک‌تک فریم‌های ویدئو از هوش مصنوعی برای تصمیم‌گیری استفاده کنند.
در همین حال، TypeSafe قابلیت‌های مدل Jev را گسترش داده و پشتیبانی از تصاویر و امکان تصمیم‌گیری شرطی را به آن افزوده است.
افزایش رقابت در این حوزه نشان می‌دهد تقاضا برای سامانه‌های هوش مصنوعی‌ای رو به رشد است که بتوانند تصمیم‌های تکراری را بدون هزینه و زمان پردازش بالای مدل‌های زبانی سنتی انجام دهند.
اوپن‌ای‌آی انتظار دارد مدل‌های تصمیم‌گیری سریع‌تر و ارزان‌تر، زمینه استفاده از هوش مصنوعی را در کاربردهای بیشتری فراهم کنند؛ از جمله دستیارهای صوتی بلادرنگ، طبقه‌بندی تصاویر، گردش‌کارهای خودکار و نرم‌افزارهای تعاملی.