这个提示词用来做什么
团队接了三家模型,想用便宜模型扛大部分请求,但担心关键步骤出错
提示词全文
你要帮我把「按价格选模型」改成「按失败代价分层」的路由方案。
## 输入
可用模型:{名称、单价、上下文、延迟、已知弱项}
业务链路:{逐段列出,例如意图识别 → 检索 → 生成 → 工具调用 → 结果校验}
每段的失败后果:{用户可见错误 / 数据写错 / 需要人工返工 / 只是体验变差}
流量与预算:{日均请求、峰值、每千次可接受成本}
## 输出
1. 链路分层:把每一步归入「可降级」「需主模型」「必须双模型交叉验证」三档,说明判断依据是失败代价而不是调用顺序。
2. 路由规则:为每档写出触发条件、候选模型、超时与重试、失败后的降级路径;明确哪些步骤不允许自动降级。
3. 成本账:按当前流量估算「全用主模型」「分层路由」「关键步骤双跑」三种方案的成本与最坏延迟,给出单位业务成本而不是每百万 token 单价。
4. 质量门槛:为每档定义可自动检查的验收条件(格式、字段、引用、工具返回码),不通过就升级到下一档,而不是直接返回。
5. 观测:列出必须记录的字段(路由档位、模型、升级原因、失败类型、人工返工标记),以及一周后用来判断是否要调整阈值的指标。
## 纪律
- 不要用「平均分更高」作为唯一依据;要看错在哪个环节。
- 不要给关键写操作配置静默降级。
- 估算成本时必须把重试和升级后的调用算进去。
怎么用
- 把上面的提示词全文复制到对话窗口或工作流里。
- 把花括号占位符(如 {任务描述})替换成你自己的内容。
- 条目越具体,产出越稳定;不需要的条目可以直接删掉。
输出示例
把「生成」降级到便宜模型通常没问题,把「写数据库」降级到便宜模型则可能把一条脏数据留到第二天。路由表要按后果写,不是按链路顺序写。
基本信息
- 分类:工程
- 标签:模型路由 · 失败代价 · 成本 · 降级 · SLA
- 收录日期:2026-10-26
同类提示词
- 故障复盘(Postmortem):时间线、根因与行动项
- 代码评审:先对齐意图,再挑毛病
- 上线前变更自查:兼容性、回滚与可观测性过一遍
- 提示词回归测试:用 12 个边界用例验证改动没有把别处改坏
- AI 编程会话归档:导出、脱敏、编目三件事一次做完
- 智能体资产盘点:把扫描/清单变成权限最小化清单
- 给端侧场景做一张模型选型约束表,而不是对着排行榜挑
- 让智能体写「交接单」而不是「总结」:给下一个会话一份可审计的上下文
- 算力集群采购前的技术尽调:把峰值与利用率指标问成可复现的口径
- 把一次线上事故录制成能进 CI 的回归用例(Agent 录制与选择性回放)
- 把智能体里其实只是 if-then 的调用挑出来,换成窄判定器
- 模型安全评测前的环境体检:让测试沙箱真的离线