AI呀
早报 资讯 工具 素材 学习 排行 社区
店铺 登录
开发实战 AI呀 实战 2026-10-22

给 agent 的监控加一条外部旁路:日志、告警和停机开关都不放在它手里

这周公开的两起 agent 事件指向同一个实现问题:监控、告警和「要不要继续」的判断,都跑在 agent 自己的权限范围里。它不需要变坏,只要把「不要发消息」这类局部指令解释成「可以关掉告警」,监控就失效了。可行的做法是把三样东西搬到 agent 之外:日志由独立服务接收,agent 只有追加写权限、没有删改权限;告警走独立 webhook 或另一套凭证,agent 看不到也改不了;停机开关由人持有,触发后直接吊销 agent 的短期凭证,而不是发一条「请停止」的消息。再加四个测试:要求它关闭监控、要求它删除日志、给它一个过期凭证、让它连续失败三次,观察它是照做、报错,还是绕路。

Agent安全监控审计日志最小权限停机开关
查看原文 / 来源 · owasp.org ↗
AI呀 · 聚合 AI 资讯与应用