OpenAI Decisions API 正式可用:近实时有界决策,单次最多 400 问
OpenAI 宣布 Decisions API 一般可用,基于 GPT‑6 Luna 做分类/路由/打分类近实时决策,宣称最高约快 10 倍,单次最多 400 问。
OpenAI 宣布 Decisions API(决策 API)正式一般可用(GA)。该接口面向应用与智能体工作流里大量“小而边界清晰”的判断:如何分类输入、请求往哪路由、下一步执行哪类动作等。官方称其基于 GPT‑6 Luna,把能力集中在有限答案空间的问题上,可对文本、图像与结构化输入做近实时决策,速度最高可达经 Responses API 调用 GPT‑6 Luna 的约 10 倍。
自公开测试以来,新增能力包括:原生对接 GPT‑Live、对复用上下文的提示缓存、美欧推理驻留(inference residency),以及原生 JSON 输入、在问题说明中附带图像、单次请求最多 400 个问题(为此前上限的两倍)。计费按输入 token:百万输入 token 约 0.10 美元,缓存输入约 0.01 美元/百万;无输出 token 费用。符合条件的客户可使用零数据保留(Zero Data Retention)。
答案类型支持三类:predicate(条件为真的概率)、choice(从给定选项中选一,并返回概率与置信度)、score(按量规对有序档位打分)。早期客户反馈包括:Box 在保单类文档路由评估中称路由选择约快 5 倍且精度相当;Datadog 用于评估智能体生成的 shell 命令风险,称相对前沿模型 p95 约快 40 倍;Ramp 称 AI 成本归因约快 4 倍、成本低约 30%;Sierra 称编排下一步动作 p95 低于 280 ms;Speak 称接入 GPT‑Live 后下一步动作时延从约 1.4 秒降到约 0.13 秒。
flowchart TD
A[文本/图像/JSON 上下文] --> B[Decisions API]
B --> C{答案类型}
C -->|predicate| D[概率 0-1]
C -->|choice| E[选定选项+置信度]
C -->|score| F[量规加权分]
D --> G[应用路由/拦截/继续]
E --> G
F --> G