主流大模型是一个 token 接一个 token 往外蹦,扩散语言模型想的是另一条路:并行生成多个 token,在生成过程中反复调整,不必严格从左到右。过去这条路线卖的是速度,现在它开始证明自己也能干活。
扩散智能 11 月 19 日发布 Clover-35B-A3B-Preview 技术报告并开放 SFT 代码。总参数 350 亿、激活约 30 亿,采用分块扩散减少重复计算,块内做双向信息交互。报告的分数:在统一评测协议下,所列七项 agent 指标都拿了最高分,SWE-bench Verified 73.6、Terminal-Bench 2.1 为 51.7;部分配置下 token 生成速度是同级别自回归模型的 5 到 10 倍。
团队自己的说法比较克制:从生成提速到完整任务效率提升,还在持续验证。这句话值得认真对待——agent 任务的耗时大头往往在工具调用、环境反馈和重跑,生成快不等于任务快。