它解决的不是「内容真假」,而是「模型身份」
现在调用一个 API,你无法从输出反推它到底跑了哪个模型。服务商可以在高峰期悄悄换成更便宜的模型,也可以在评测时换成更强的模型。FlashProve 要证明的是一句很窄的话:这段输出,确实是某个已承诺的权重算出来的。它不判断内容对不对,也不证明模型好不好。
做法分两步。离线阶段,服务方发布一个对权重的承诺,相当于给某一份权重按了指纹,但权重本身仍然保密;在线阶段,每收到一个请求,GPU 生成一份证明,任何人拿着承诺、prompt 和回复就能验证。验证不需要权重,也不需要高端显卡。
数字与边界
官方给出的规模是 Llama 4 Maverick,400B 参数的 MoE,4 位量化,单张 H100 生成证明约 110 token/秒,每 1024 token 的证明约 19MB,24 核 CPU 几秒验完。代价是证明生成约占 70–95 倍于 vLLM 处理同样长度 prompt 的 GPU 时间——这不是一个能对全部流量开启的功能。
限制也写得很清楚:证明针对整数模型、贪心解码;浮点实现或采样解码可能在某个位置偏离,就不再与证明的计算完全一致。系统目前只覆盖 MoE 架构,稠密模型不在范围内。它隐藏权重,但不隐藏架构。仓库版本是 0.16.0,明确不维护、不接受贡献。
谁应该现在关注
- 企业采购:把「可提供模型指纹与推理证明」写进合同,比事后争论有没有被换模型更有效。
- 模型路由与转售:客户会开始问「你怎么证明请求落到的是哪个模型」,提前准备承诺与验证流程。
- 合规与审计:只对需要留证的高价值请求开启证明,按 70–95 倍 GPU 时间做预算,不要全量。