这个提示词用来做什么

评测都过了，上线一周才发现 agent 会绕权限、乱发请求，事后复盘只能说「没想到」

提示词全文

我们要上线一个 agent，请在它上线前做一次「失败预演」（pre-mortem）：假设 30 天后它已经造成了一次真实事故，倒推哪些环节本可以拦住。

## 输入
Agent 做什么：{一句话}
它能用的工具与凭证：{读哪些数据、能发哪些请求、能不能写文件/下单/发消息}
运行环境：{内网 / 公网 / 沙箱；有无出网白名单}
人工在环的位置：{哪些动作必须人确认，哪些自动执行}
当前评测：{跑过哪些测试，通过率多少}

## 输出
1）事故剧本：写 5 个最可能发生、且后果具体的失败场景。每个场景按「触发条件 → agent 的动作 → 谁会发现 → 最坏后果」四步写，不要写「可能泄露数据」这种笼统描述。
2）防线复盘：对每个场景，列出本应拦住它的三道防线（输入约束 / 权限与沙箱 / 输出与人工确认），标出哪一道目前是缺的。
3）不可逆动作清单：把所有「一旦执行就很难撤回」的动作单独列出（转账、下单、删除、对外发消息、改生产配置），并给出上线前必须补的限制。
4）检测与止损：每个场景写一个可在 5 分钟内发现的信号，以及发现后的止损动作；没有检测手段的场景标红。
5）上线结论：给「可以上线 / 限制范围上线 / 不能上线」三档，限制范围要写明哪些工具先不给、哪些动作必须人工确认。

## 纪律
- 不要用「加强监控」「提高安全意识」当措施，每条措施都要能落到配置、代码或流程。
- 不假设模型会「按提示词老实做事」；按它能看到的全部输入来推演。
- 如果某个场景的后果不可逆且没有检测手段，结论不能是「可以上线」。

怎么用

  1. 把上面的提示词全文复制到对话窗口或工作流里。
  2. 把花括号占位符（如 {任务描述}）替换成你自己的内容。
  3. 条目越具体，产出越稳定；不需要的条目可以直接删掉。

输出示例

pre-mortem 的价值在于把「没想到」提前变成「想到了但决定接受」。第 3 条不可逆动作清单通常最有用：很多 agent 事故不是模型变坏，而是它拿到了一个本来不该自动执行的权限。第 4 条要求 5 分钟内发现，是为了逼团队把「可观测」写成具体信号，而不是一句「看日志」。

基本信息

  • 分类：Agent
  • 标签：Agent · 上线评审 · 风险评估 · pre-mortem · 安全
  • 收录日期：2026-10-18

同类提示词