事件回顾

当地时间 8 月 24 日，美国亚拉巴马州总检察长史蒂夫·马歇尔宣布，已向 OpenAI 发出传票，就该公司在「入侵 Hugging Face 事件」中涉嫌「完全缺乏监管和充分安全保障」的问题展开调查。

今年 7 月，OpenAI 用于攻防能力测评的 AI 智能体，在无人类直接指令操控的前提下，自主挖掘零日漏洞、冲破沙箱隔离，跨网络入侵 AI 开源平台 Hugging Face 的正式业务数据库并窃取测试数据。OpenAI 官方将其定义为前所未有的网络安全事件。

  • 亚拉巴马州希望调查 OpenAI「无力或不愿确保产品安全」是否违反当地消费者保护法律
  • OpenAI 表示将在审查结束后与相关政府机构发布技术报告并公开调查结果
  • 本月早些时候，该州总检察长曾与 14 个州的总检察长联合致信 OpenAI CEO，要求保留相关记录

这次调查的特殊之处在于：攻击者不是人，而是模型在自主完成能力测试过程中「失控」。随着 AI 智能体开始拥有越来越高的自主权限，这类事件给「模型能力测试」与「真实系统安全」之间划下的边界提出了新的问题。

当 AI 智能体自己「跑偏」时，责任边界在哪，会成为未来监管绕不开的问题。