ورود OpenAI به قلمرو Jev با API تصمیم‌گیری برای عامل‌های هوش مصنوعی
OpenAI رابط برنامه‌نویسی کاربردی (API) جدیدی عرضه کرده است که به عامل‌های هوش مصنوعی امکان می‌دهد با سرعت بالا و هزینه کم، از میان مجموعه‌ای از گزینه‌های از پیش تعیین‌شده انتخاب کنند. این اقدام، شرکت را وارد رقابت مستقیم با Jev، محصول شرکت TypeSafe و یکی از نخستین مدل‌های هوش مصنوعی طراحی‌شده برای چنین وظایفی، می‌کند.
رابط برنامه‌نویسی Decisions API که از ۲۲ اکتبر به‌صورت عمومی در دسترس قرار گرفته، برای موقعیت‌هایی طراحی شده است که در آن‌ها یک برنامه مبتنی بر هوش مصنوعی به پاسخ مفصل مدل نیاز ندارد و صرفاً باید یکی از چند گزینه را انتخاب کند.
هر بار که یک عامل هوش مصنوعی ورودی‌ای را دسته‌بندی می‌کند، ابزاری را انتخاب می‌کند یا درباره گام بعدی خود تصمیم می‌گیرد، باید درخواست جداگانه‌ای به یک مدل ارسال کند. اگر یک مدل بزرگ مسئول انجام تک‌تک این تصمیم‌های کوچک باشد، مجموع زمان و هزینه پردازش در سراسر یک فرایند کاری افزایش می‌یابد.
مدل‌های تصمیم‌گیری چه هستند؟
Jev به رواج این دسته از مدل‌ها کمک کرد؛ مدل‌هایی که «مدل‌های تصمیم‌گیری» یا «مدل‌های سیستم یک» نامیده می‌شوند. این اصطلاح از روان‌شناسی گرفته شده است؛ حوزه‌ای که در آن به تفکر سریع و غریزی اشاره دارد. برخلاف مدل‌های همه‌منظوره که پاسخ‌های مفصل تولید می‌کنند، مدل‌های تصمیم‌گیری بر انتخاب سریع تمرکز دارند و می‌توانند میزان اطمینان خود به هر تصمیم را نیز برآورد کنند.
رویکرد OpenAI چه تفاوتی دارد؟
استفاده از یک مدل همه‌منظوره مانند GPT-6 Luna شرکت OpenAI برای تصمیم‌گیری درباره ارجاع یک پرسش مشتری به بخش رسیدگی تخصصی یا تعیین تیم مسئول یک درخواست، فراتر از نیاز واقعی چنین وظایفی است.
در Decisions API، توسعه‌دهندگان پرسش و پاسخ‌های احتمالی آن را تعریف می‌کنند. این رابط سپس یک انتخاب ساختاریافته، امتیاز یا احتمال ارائه می‌دهد تا برنامه بر اساس آن مشخص کند چه اقدامی باید انجام شود.
OpenAI به‌جای ساخت یک مدل تصمیم‌گیری جداگانه، GPT-6 Luna را برای انجام سریع‌تر و کم‌هزینه‌تر این انتخاب‌ها بازپیکربندی کرده است. این شرکت می‌گوید API جدید می‌تواند تصمیم‌ها را تا ۱۰ برابر سریع‌تر از زمانی بگیرد که از مدل Luna از طریق Responses API استفاده می‌شود.
نیکونج هاندا، مسئول محصول APIها در OpenAI، به وب‌سایت تک‌کرانچ گفت که زمان تصمیم‌گیری از حدود یک تا سه ثانیه به ۱۰۰ تا ۱۸۰ میلی‌ثانیه کاهش یافته است.
هزینه استفاده از این API برای هر یک میلیون توکن ورودی، یعنی واحدهای متنی که مدل پردازش می‌کند، ۰٫۱۰ دلار است. برای ورودی‌های ذخیره‌شده در حافظه نهان، این مبلغ به ۰٫۰۱ دلار برای هر یک میلیون توکن کاهش می‌یابد. پردازش توکن‌های خروجی رایگان است.
این ابزار کجا استفاده می‌شود؟
از کاربردهای این ابزار می‌توان به دسته‌بندی تراکنش‌های مالی، هدایت درخواست‌های پشتیبانی مشتری به بخش مناسب و تعاملی‌تر کردن برنامه‌های آموزش زبان اشاره کرد. OpenAI هم‌اکنون از این API در دستیار صوتی Dots خود برای پاسخ‌گویی سریع‌تر استفاده می‌کند و تیم مالی شخصی این شرکت نیز از آن برای دسته‌بندی تراکنش‌ها بهره می‌برد.
این API با سامانه صوتی GPT-Live شرکت OpenAI نیز سازگار است. برای مثال، یک برنامه پشتیبانی مشتری می‌تواند هنگام مکالمه زنده تصمیم بگیرد که آیا باید پرسش تکمیلی مطرح کند، درخواست را به تیم دیگری بفرستد یا موضوع را برای رسیدگی بیشتر ارجاع دهد.
پلتفرم آموزش زبان مبتنی بر هوش مصنوعی Speak که یکی از مشتریان اولیه این ابزار است، به تک‌کرانچ گفت که با استفاده از آن، فاصله زمانی میان اقدامات در برنامه خود را از ۱٫۴ ثانیه به ۰٫۱۳ ثانیه کاهش داده است.
آیا OpenAI می‌تواند با Jev رقابت کند؟
سرعت و هزینه تنها بخشی از معادله‌اند؛ یک مدل تصمیم‌گیری باید بتواند به‌طور مداوم انتخاب‌های درستی انجام دهد. بر اساس معیارهای ارزیابی‌ای که تک‌کرانچ به آن‌ها اشاره کرده است، مدل‌های شرکت Liquid و شرکت Base Lab در آزمون‌های مربوط به مدل‌های تصمیم‌گیری عملکرد خوبی داشته‌اند. در مقابل، محصول OpenAI در دو شاخص رتبه پایین‌تری کسب کرده و Jev همچنان رقیبی قدرتمند باقی مانده است.
برای توسعه‌دهندگان، آزمون واقعی این خواهد بود که این مدل‌ها تا چه اندازه وظایف مشخص آن‌ها را به‌خوبی انجام می‌دهند؛ از جمله در شرایطی که ورودی‌ها مبهم هستند.