规格
- 33B 参数,BF16,Hugging Face 上约 66.3GB;
- 524,288 token 上下文;
- 默认开启 reasoning,可用 enable_thinking=False 关闭;
- 多轮工具调用建议 preserve_thinking=True;
- Apache 2.0,可商用。
跑分
模型卡给出的对比对象是 Qwen3.8-27B:Terminal-Bench 2.1 为 80.9 对 73.0,DeepSWE 为 65.5 对 42.5,Scicode 为 52.6 对 46.7;SWE-Bench Pro 则是 60.3 对 61.7,南贝在这一项落后。推理侧 AIME 2026 为 95.2,Qwen 为 94.5;GPQA Diamond 为 89.5,Gemma4-31B 为 91.3。
这些数字没有附独立复现。模型卡还提到 JobBench 的 35 个职业任务里多数优于基线,但同样属于自报。
怎么部署
官方给了 Transformers、SGLang 和 vLLM 三种方式。工具调用建议用 XML 格式,JSON 也支持但效果略差;agent 场景推荐温度 1.0、top_p 0.95、最大输出 65,536;纯推理对话可以用温度 0.6、最大输出 262,144。SGLang / vLLM 的示例使用 tensor-parallel size 4,说明 33B 全精度并不是单卡能轻松吃下的规模。
局限
第一,评测是自报,且对比基线的版本、prompt、工具集没有完全公开;第二,512K 上下文是上限,不代表在这个长度下还能保持同样的检索和推理质量;第三,33B BF16 约 66GB,量化后能降到单机范围,但量化对工具调用稳定性的影响需要自己测;第四,它被定位为“教师模型”,真正适合日常跑的小模型还没放出来。
开源 33B 的价值不在榜单第一,而在你能把它放在自己的机器上,用自己的数据测。