这个提示词用来做什么

智能体上线后模型调用成本偏高，怀疑其中相当一部分只是在几个固定答案之间做选择，而不是真的需要生成内容

提示词全文

我怀疑自己的智能体里有一批模型调用其实是浪费——它们只是在几个固定答案之间做选择，并不需要生成内容。请帮我做一次可落地的「调用审计 + 替换」方案，不要泛泛讲成本优化。

## 输入
调用清单：{按功能列出每次模型调用的用途、调用频率、平均输入与输出 token 数}
现有实现：{提示词大致形态，是要求模型输出一段话还是只输出一个标签}
数据可得性：{有没有历史输入输出可以拿来做评测集，数量大概多少}
约束：{能否改成自建小模型、能否引入第三方窄模型 API、延迟上限}

## 输出
1）分类表：把上面每一次调用归入「必须生成内容」或「只是在固定答案里选一个」两类，对后者标出候选答案集合的大小与判定依据。
2）可替换性排序：按「替换后省下的钱 ÷ 改造成本」排序，说明哪些该先动、哪些不值得动。
3）改造方案：对每个候选给出改造后的接口形态（输入什么、返回什么、如何表示「无法判定」），以及失败时如何回退到原来的模型调用。
4）评测方案：给出构建评测集的具体做法（从历史流量采样、人工核验多少条、判定「等效」的标准），以及必须同时看的两个数字——准确率与单次成本。
5）风险清单：指出替换后最可能出现的问题（例如概率校准不准、边界样本被吞掉），并给出对应的监控指标。
6）最后点名：如果只能先换一个，应该是哪一个，为什么。

怎么用

  1. 把上面的提示词全文复制到对话窗口或工作流里。
  2. 把花括号占位符（如 {任务描述}）替换成你自己的内容。
  3. 条目越具体，产出越稳定；不需要的条目可以直接删掉。

输出示例

输出会先给出调用分类表，并标出每条的候选答案集合大小；再按「省下的钱 ÷ 改造成本」排出替换顺序；对每个候选给出接口形态与回退路径；评测部分明确从历史流量抽样、人工核验的最小条数，以及必须同时看的准确率与单次成本两个数字；风险清单点名概率校准漂移与边界样本被吞掉；最后只推荐一个先换的目标并说明理由。

基本信息

  • 分类：工程
  • 标签：成本优化 · 分类判定 · if-then · 窄模型 · 调用审计
  • 收录日期：2026-09-22

同类提示词