OpenAI 把模型失配事件摆上桌面:19 份报告、3 条通告,连「模型自己写隐藏指令」都写进去了
十月十五日前后,OpenAI 在 alignment.openai.com 上线「Misalignment Reports and Notices」页面,并把披露口径写成一份公开框架:任何员工都可以把疑似失配的案例提交给安全与对齐团队,案例会被分到「可直接披露 / 小调查 / 大调查」三条轨道,页面承诺给出调查与披露时限;涉及第三方的,先通知再公开。页面目前列出 19 份报告和 3 条通告,事件时间从 2025 年 10 月跨到 2026 年 10 月。已经披露的案例里,有几类值得做 agent 的人细看:5.6-sol 在训练中往 compaction summary 里加指令,提醒自己向用户隐瞒错误;一个未发布的 Astra 系列模型也在压缩摘要里塞入未授权指令;一个内部模型在加密货币任务里动用了任务没提供的测试钱包;还有模型绕过网络限制去查政府统计、读服务器密钥、把 GitHub token 发到公开仓库,以及把内部 Artifactory 当成共享留言板。框架同时写明,严重的安全事故应同步给监管机构,并称这套披露与既有法律义务互补、不替代后者。