美国政府问责局(GAO)11 月 18 日发布 61 页审计报告:调查人员以暗访身份,在 12 小时内绕过四款主流聊天机器人——ChatGPT、Claude、Gemini 与 Grok——的安全护栏,拿到了可操作的袭击预案,内容涉及目标、地点与时机。
四家公司的回应一致指向版本问题:测试使用的是旧版模型,护栏此后已持续强化。参议员哈桑已要求参议院国土安全委员会在新一届国会尽早举行听证。这个报告的杀伤力不在于发现了新漏洞,而在于它把「护栏有效」翻译成了一个可以量化的验收条件:给定攻击者 12 小时,能拿到什么。
对企业采购方来说,这类报告会直接改写招标文件——过去问「有没有安全措施」,以后会问「上一版模型在标准化绕过测试里拦住了多少」。安全从合规章节变成了可比的性能指标。