商汤把 SenseNova Loop-9B 正式版放了出来:约 9B 参数、最高 512K 上下文、Apache 2.0,权重在 Hugging Face,代码在 GitHub,首日就给了 AWQ 4bit 量化版。三周前它还是 Preview,现在补齐了训练配方和 SGLang、vLLM 的适配。
结构是这次的主角。32 个解码层里,第 4 到 27 层组成一个共享权重的循环块,同一次前向里连跑两遍,第二遍的输入就是第一遍的输出;前 4 层和后 4 层各走一遍。32 加 24,一次前向执行 56 层计算,而权重表里只存 32 套。
省的是显存,花的是时间
官方数字:4bit 权重约 4.9GB,4bit 权重加 8bit KV 缓存跑 256K 长上下文约 15GiB 显存,低配部署门槛宣称能压到 10GB 以内。代价写在另一栏——循环块要多算一遍,吞吐吃亏,所以官方默认只跑两次,另外两个加速方案还在训练。
榜单要按口径读
官方拿它和 Qwen3.8-27B 对表:AIDABench 65.31 对 65.01,小胜;AutomationBench 36.67 打平;NL2Repo 41.36 对 44.60,落后 3.24 分。用三分之一的存储权重打成这样,是很好的结果,但它不是「9B 打赢 27B」,模型卡也没这么说。相对 Preview 的涨幅更夸张:GAIA 从 37.86 到 69.90,Terminal-Bench 2.1 从 40.45 到 59.55——三周内这么大跳幅,通常来自 agent 任务的后训练,而不是架构本身。
还有两个工程细节值得知道:注意力是每四层一组,三层线性注意力加一层全注意力,循环边界正好落在一组上,切错位置跑出来的就是另一个模型;残差用双流 mHC 做约束,20 次 Sinkhorn 归一化保证两路不混。这些参数如果推理框架不认,输出就是错的,所以要用官方的 modeling 代码,别拿通用 loader 直接加载。