OpenAI Decisions API 全面开放:毫秒级决策接口,直指 TypeSafe Jev

OpenAI Decisions API 全面开放:毫秒级决策接口,直指 TypeSafe Jev

OpenAI 的 Decisions API 10 月 22 日结束公测、全面开放。这是一套专为实时决策设计的接口:把 GPT-6 Luna 重新调参成「决策模型」——给定文字、图片或 JSON 输入和预设问题,直接返回概率、选项或分数类型的答案,不生成完整的长文本回复。

3 个关键点:

1. 速度:毫秒级响应。 单次决策调用的延迟从 1–3 秒压到 100–180 毫秒,官方称比走 GPT-6 Luna 的 Responses API 做同类任务快约 10 倍。早期客户数据很有说服力:Datadog 报告延迟降低 40 倍、Box 称提速 5 倍,语言学习应用 Speak 把用户操作之间的间隔从 1.4 秒降到 0.13 秒。产品负责人 Nikunj Handa 表示下一个目标是 60 毫秒——「足够在每帧视频里都做一次决策」。

2. 便宜:只收输入费。 输入 $0.10/百万 token、缓存输入 $0.01/百万 token,输出 token 免单。对于分类、请求路由、任务优先级等高频低价值场景,开发者可以直接用它替换完整的大模型调用,同时省钱和降延迟。

3. 对手:TypeSafe 的 Jev。 「决策模型」这个品类正是前 OpenAI 研究员创立的 TypeSafe 用 Jev 打出来的,数周内成长为 76 亿美元公司。公开基准上 Jev 排第三、OpenAI 的决策模型排第八/第十四——这是典型的「以分发对质量」的进攻,靠 OpenAI 的分发能力追赶。

GA 版新增了 GPT-Live 语音系统原生集成、提示词缓存、原生 JSON 输入、单题配图、单次请求最多 400 个问题,以及美欧地区的地理定向推理。

原文链接:点击查看原文,正文为摘要整理,仅供参考。

评论