这个提示词用来做什么

团队接了三家模型,想用便宜模型扛大部分请求,但担心关键步骤出错

提示词全文

你要帮我把「按价格选模型」改成「按失败代价分层」的路由方案。

## 输入
可用模型:{名称、单价、上下文、延迟、已知弱项}
业务链路:{逐段列出,例如意图识别 → 检索 → 生成 → 工具调用 → 结果校验}
每段的失败后果:{用户可见错误 / 数据写错 / 需要人工返工 / 只是体验变差}
流量与预算:{日均请求、峰值、每千次可接受成本}

## 输出
1. 链路分层:把每一步归入「可降级」「需主模型」「必须双模型交叉验证」三档,说明判断依据是失败代价而不是调用顺序。
2. 路由规则:为每档写出触发条件、候选模型、超时与重试、失败后的降级路径;明确哪些步骤不允许自动降级。
3. 成本账:按当前流量估算「全用主模型」「分层路由」「关键步骤双跑」三种方案的成本与最坏延迟,给出单位业务成本而不是每百万 token 单价。
4. 质量门槛:为每档定义可自动检查的验收条件(格式、字段、引用、工具返回码),不通过就升级到下一档,而不是直接返回。
5. 观测:列出必须记录的字段(路由档位、模型、升级原因、失败类型、人工返工标记),以及一周后用来判断是否要调整阈值的指标。

## 纪律
- 不要用「平均分更高」作为唯一依据;要看错在哪个环节。
- 不要给关键写操作配置静默降级。
- 估算成本时必须把重试和升级后的调用算进去。

怎么用

  1. 把上面的提示词全文复制到对话窗口或工作流里。
  2. 把花括号占位符(如 {任务描述})替换成你自己的内容。
  3. 条目越具体,产出越稳定;不需要的条目可以直接删掉。

输出示例

把「生成」降级到便宜模型通常没问题,把「写数据库」降级到便宜模型则可能把一条脏数据留到第二天。路由表要按后果写,不是按链路顺序写。

基本信息

  • 分类:工程
  • 标签:模型路由 · 失败代价 · 成本 · 降级 · SLA
  • 收录日期:2026-10-26

同类提示词