过去两年谈 agent 安全,主流做法是在提示词边界上设防:过滤用户输入、给检索到的文档消毒、上线前跑一遍安全评测。微软研究院 11 月 10 日发布的 Lazarus 说明了这套做法的边界——当后门藏在权重里,前面这些检查一项都拦不住:改过的模型能通过全部评测,等到上下文里出现某个普通字符串(甚至只是工具返回的一段报错),才开始执行攻击者指定的命令。

第一层:它能碰哪些数据

最容易被忽略的是「agent 的凭据比它需要的多」。推理服务商 Fireworks 11 月 9 日更新的通报就是个例子:受影响的不只是密钥,还有账单地址、发票历史,以及对部分客户而言不完整的数据集与模型权重。这说明一件事——只要凭证放在某个环境变量里,一次失守的爆炸半径就覆盖所有下游服务。做法很土但有效:给 agent 单独开一套最小权限凭据,只覆盖它当前任务要读的那几张表、那几个目录;跑完就撤,不要留长期凭证。

第二层:它能调哪些工具

工具调用是最难收口的一层,因为工具本身就是它的手脚。一个可落地的做法是把工具分三档:只读(搜索、读文件、查监控)默认放开;受限写(提交代码、发消息、改配置)要求带明确参数并在日志里留痕;高危动作(删数据、转账、改权限、对外发布)一律转人工确认,不设自动通道。分档的价值不在拦得多严,而在出事时你能一眼看出是哪一档失守。

权限不是给 agent 的信任额度,是给事故的止损线。

第三层:它能跑在哪个环境

Lazarus 的一个细节值得记:攻击者最想要的不是模型本身,是「模型能以什么身份执行命令」。所以隔离的重点不是把模型关起来,而是让 agent 生成的代码跑在一个出不去的盒子里——限制出网、挂载只读文件系统、用完即销毁。很多团队在这一步省事,直接让 agent 在构建机上跑,等于把整条流水线交出去。

第四层:出事时谁先停

最后一层是停机权。一个能自动开工的系统,必须有一个不依赖模型判断的停止开关:闸门自己挂了要默认拒绝,而不是默认放行;单个作业要能被独立取消,不用把整个服务重启。这三件事都不难写,难的是在架构里留出位置。

把这四层串起来看,会发现它们防的不是同一个东西:数据权限防泄露,工具分档防误操作,环境隔离防扩散,停机权防失控。真要出问题,通常是四层里有一层从来没被认真配过。