OpenAI का Decisions API 22 अक्टूबर को पब्लिक बीटा से बाहर आकर पूरी तरह उपलब्ध हो गया है। यह रीयल-टाइम फैसलों के लिए बना इंटरफेस है: GPT-6 Luna को "डिसीजन मॉडल" में बदलकर ट्यून किया गया है — टेक्स्ट, इमेज या JSON इनपुट और पूर्वनिर्धारित प्रश्नों पर यह लंबे उत्तर के बजाय प्रायिकता, विकल्प या स्कोर प्रकार के जवाब देता है।
तीन अहम बातें:
1. गति: मिलीसेकंड में जवाब। एक फैसले की लेटेंसी 1–3 सेकंड से घटकर 100–180 मिलीसेकंड रह गई है, OpenAI के अनुसार GPT-6 Luna के Responses API से वही काम करने की तुलना में करीब 10 गुना तेज़। शुरुआती ग्राहकों के आंकड़े प्रभावशाली हैं: Datadog ने 40 गुना लेटेंसी कमी, Box ने 5 गुना गति सुधार बताया, और भाषा-शिक्षा ऐप Speak ने उपयोगकर्ता क्रियाओं के बीच अंतराल 1.4 सेकंड से घटाकर 0.13 सेकंड कर दिया। उत्पाद प्रमुख Nikunj Handa का कहना है कि अगला लक्ष्य 60 मिलीसेकंड है — "हर वीडियो फ्रेम में एक API कॉल के लिए पर्याप्त।"
2. सस्ता: केवल इनपुट का भुगतान। इनपुट $0.10 प्रति मिलियन टोकन, कैश्ड इनपुट $0.01 प्रति मिलियन, और आउटपुट टोकन मुफ्त। वर्गीकरण, अनुरोध रूटिंग और कार्य प्राथमिकता जैसे उच्च-आवृत्ति, कम-मूल्य वाले कार्यों के लिए डेवलपर पूरे LLM कॉल को बदलकर पैसे और लेटेंसी दोनों बचा सकते हैं।
3. प्रतिद्वंद्वी: TypeSafe का Jev। "डिसीजन मॉडल" श्रेणी TypeSafe ने बनाई — पूर्व OpenAI शोधकर्ता द्वारा स्थापित — जिसका Jev कुछ हफ्तों में $7.6 अरब की कंपनी बन गया। सार्वजनिक बेंचमार्क में Jev तीसरे स्थान पर है जबकि OpenAI का डिसीजन मॉडल आठवें/चौदहवें स्थान पर: वितरण बनाम गुणवत्ता की क्लासिक लड़ाई, OpenAI अपनी वितरण शक्ति से मुकाबला कर रहा है।
GA संस्करण में GPT-Live वॉइस एकीकरण, प्रॉम्प्ट कैशिंग, नेटिव JSON इनपुट, प्रति-प्रश्न इमेज, एक अनुरोध में अधिकतम 400 प्रश्न और अमेरिका-यूरोप में भू-लक्षित इन्फरेंस शामिल हैं।
मूल लेख: मूल पढ़ें। यह सारांश संग्रह केवल संदर्भ हेतु है।
टिप्पणियाँ