把「选一个」从大模型里拆出来单独做:OpenAI 在 DevDay 悄悄上了 Decisions API
TechCrunch 报道,OpenAI 在 9 月 29 日的 DevDay 上发布了一个容易被忽略的功能:Decisions API。按 Sam Altman 的说法,它给模型一组预先定义好的选项去选择,比如把一张图片归到哪个类别、或让 agent 采取哪种行为,「通过把模型聚焦在这个选择上,我们可以做得非常快,同时保留图像理解、多语言支持和安全防护」。它与 TypeSafe AI 本月初发布的 Jev 属于同一类产品:基于大模型构建的「超级分类器」,输出概率而不是长文本,又快又便宜。TypeSafe 的 CEO Diogo Almeida(前 OpenAI 工程师)在 X 上开玩笑说克隆战争开始了,并表示 OpenAI 的兴趣说明「以 System One 兼容的方式做构建是未来」——System One 是他们给快速直觉式决策起的说法,对应需要深思的 System 2。这类模型被看好的一类用法是给 agent 做行为监控:OpenAI 在几次 agent 于公开网络上越界之后,改用另一个模型以「可观的算力成本」去盯每一步;有开发者做了个演示,把每个 agent 动作与它被分配的任务对照,高置信度是坏动作就拦掉、不确定的标出来给人看、其余放行——同样的监控用前沿模型要 372 美元,用 Jev 是 2.94 美元。