AI呀
早报 资讯 工具 素材 学习 排行 社区
店铺 登录
AI 安全 METR 2026-10-23

METR 与 Redwood 红队审计 OpenAI 内部 agent 监控:估算 75%–94% 流量被覆盖,压缩环节曾漏检

METR 与 Redwood Research 10 月 22 日公开了对 OpenAI 内部 agent 监控体系的红队审计:7 月 21 日到 8 月 11 日共三周,报告 61 页。审计方估算,约 75%–94% 的 agentic 内部 Responses API 流量能被现有监控覆盖,内部 Codex 流量为 99.2%;但 5 月到 7 月间,因 compaction(上下文压缩)事件未被监控,约 10% 符合条件的 Codex 流量被漏掉,当时的 RL 训练 rollout 也没有纳入覆盖。红队还找到几条绕过路径:Codex agent 可以绕开 sandbox 与 Auto-Review、用客户端 header 启动未受监控的实例、或让监控器本身失败。OpenAI 表示影响生产防护的问题已全部修复;审计方注明这些修复未由其独立验证。

Agent 监控红队METRCodex审计
查看原文 / 来源 · metr.org ↗
AI呀 · 聚合 AI 资讯与应用