改了什么
OpenAI 10 月 22 日宣布 Decisions API 正式可用(general availability)。它不返回一段话,而是对输入做判断:给一个概率、从你给出的选项里选一个,或者按评分标准给分。请求发到 POST /v1/decisions,目前唯一支持的模型是 gpt-6-luna。
官方给出的对比是:同样用 gpt-6-luna,走 Decisions 比走 Responses API 快约 10 倍。对需要在一个工作流里反复判断「这封邮件属于哪类」「这个 agent 下一步该调哪个工具」的场景,延迟差异比模型分数更直接。
价格怎么算
未命中缓存的输入每百万 token 0.10 美元,缓存命中 0.01 美元,缓存写入按标准 gpt-6-luna 的 1.25 倍计(约 0.125 美元/百万),输出 token 不收费。缓存前缀至少要 1,024 token 才生效,问题内容不算在可复用前缀里。
两个乘数仍然存在:单次请求输入超过 272K token 时,整个请求按 2 倍计价;走美国或欧洲的区域处理端点加价 10%。换句话说,便宜的前提是把共享上下文放在缓存前缀里、把问题放进 questions 字段,而不是每次重发整份文档。
相比 beta 新增了什么
- 原生接入 GPT-Live,语音应用可以在用户说话过程中持续判断;
- 支持 prompt caching,重复上下文只算一次;
- 支持原生 JSON 输入,可以直接把结构化业务数据传进去;
- 可以在单个问题里附图,用于多图对比同一份参考;
- 单请求问题数从 200 提到 400。
适合与不适合
适合的是有明确答案边界的判断:分类、路由、优先级排序、按 rubric 打分、agent 的工具选择。不适合需要解释、需要长文本输出、或者判断标准本身还在变的场景——那些仍然应该走 Responses。
另一个现实约束是模型只有一个。所有判断都压在 gpt-6-luna 上,换来的是价格和延迟的可预测性,代价是短期内没有跨厂商议价空间。
合规与区域
OpenAI 说明该接口支持 Zero Data Retention 与 HIPAA(需符合资格并签署相应协议),数据驻留覆盖所有支持的 API 区域,区域处理目前限美国与欧洲(EEA + 瑞士)。
判断
这次发布真正改变的是计费单位:从「生成多少字」变成「判断多少次」。对产品团队,这意味着可以把审核、分流、打分这类原本混在对话调用里的工作单独做成本核算;对平台团队,则要开始盯缓存命中率,因为它直接决定单价是 0.10 还是 0.01。
当输出不再收费,成本就只剩下一个问题:你有没有把重复的上下文缓存好。