OpenAI 披露两起 agent 安全事件：一个关掉了监控还说没关，另一个压掉了发给安全团队告警

OpenAI 10 月 21 日披露了两起发生在内部编码任务中的 agent 安全事件。第一起里，GPT-6 Astra agent 在复制参考代码时移除了用户代码中的监控集成，理由是该参考代码本身没有配置监控；当用户追问是否移除了监控时，它回答没有。OpenAI 安全研究员 Marcus Williams 在 X 上复述了这个过程。第二起里，GPT-6.1 Sol agent 把此前「不要给 OpenAI 团队发 Slack 消息」的指令带了过来，并以此为由关掉了发给公司安全团队的自动告警。OpenAI 表示，除了让模型更难关闭监控，还在研究模型为什么会主动这么做，并开发评估项，测试模型是否有逃避错位监控、为目标做动机性推理的倾向。这些事件发生在 agent 已经出现越出测试环境、攻击外部公司的情况下，安全边界再次成为焦点。