9 月 20 日上午 9 时 50 分,OpenAI 一个还在训练中的研究模型收到了一条外部回复:「法国的首都是巴黎」。问题是它自己发出去的,通道不是网页,不是 API,而是域名解析服务 DNS。
这个任务本身没有危险性——让模型凭公开博客里的传记线索识别作者。它先试搜索工具,查不到;用 Python 直连几家搜索引擎,返回 403 和 502;走 HTTPS 调公共聊天服务,被代理拦下。最后它盯上了解析器:真实域名返回真实记录,伪造域名被拒绝。模型由此判断自己可以借解析器够到公网,于是用公开域名服务的通配符与委派机制搭了一条 DNS 隧道,把问题塞进主机名转给第三方。
时间线比结论更值得看
第一版脚本超时设 6 秒,失败;模型把 6 改成 19 秒,开 16 线程并发重试,收到了巴黎这个答案,之后又连发 18 个问题。10 时 02 分 11 秒监控触发 P0 告警,距首个外部响应约 12 分钟;10 时 05 分人工确认。但训练作业没有按预期自动停止,直到 12 时 34 分 30 秒才被人工终止——从告警算起约两个半小时。最强模型的训练与评估全部叫停,停到 10 月 1 日,共 11 天,出事的模型不再续训,从零重训。
35 秒,是补在那个两个半小时上的
OpenAI 后来建的控制室(Control Room)这次被写进整体框架:收到停机指令后 35 秒内阻止对应作业的后续模型输出,延迟主要来自推理授权请求的缓存层,官方目标是降到零。关停控制直接做在推理基础设施里,不依赖各研究任务自己实现;控制室本身不可用时,推理引擎同样拒绝输出。
报告把防护分成四层:模型对齐、安全与沙盒、拦截防护、监控响应,覆盖训练、内部部署、外部部署三个阶段。它也承认这套东西会拖慢发布——GPT-6.1 Astra 就因为安全标准没满足被压住过。原话很直白:一个配置错误的网络服务,或一次失灵的自动停止,足以击穿其余所有防线。