只放预训练检查点,是一种明确的产品选择
ERNIE-5.5-Flash-Base 是 280B 总参数、14B 激活的稀疏 MoE,43 层、hidden size 4096、64 个注意力头,512 个路由专家每层选 10 个。预训练用了 33.5T tokens、Muon 优化器与 FP8 混合精度,训练上下文逐步扩到 128K,微调与推理支持 1M。
官方明确说这是预训练结束时的 checkpoint,没有 mid-training、没有后训练,因此也没有对话格式和拒答策略。它的用途是给领域适配、指令微调、RL 研究提供一个共同起点——比较不同训练方法时,至少基座是同一个。
许可比模型本身更需要先读
这不是 Apache 2.0,而是自定义的 ERNIE 5.5 Flash Base Model License v1.0。授权地域排除欧盟、英国和韩国;非商用免费;年收入 5000 万美元以下的商用需要一次性告知百度,并显著标注 Powered by ERNIE;超过这个规模要拿到百度的书面授权;材料、衍生品和输出不得用来改进无关的 AI 模型。
这几条会直接影响两类团队:在欧洲、英国、韩国部署的公司根本不在授权范围内;做托管服务的厂商即使只做推理,也要先确认「用输出改模型」这条边界。下载之前先让法务过一遍,比下载完再删省事。
部署与基准
Hugging Face 与 ModelScope 提供 FP8 和 BF16 两个版本。SGLang 示例用 --tp 4,vLLM 需要 0.32.0 加 vLLM-ERNIE 插件,两者都支持到 1,048,576 tokens;因为放的是 base 模型,走的是 completions 接口而不是 chat。
官方基准里 MMLU-Pro 78.4,高于 DeepSeek-V4-Flash-Base 的 69.2;HELMET-Rerank 56.2,低于对方的 60.0。这两项说明它在知识类题上有优势,但长上下文重排并不是全面领先,选型时要按自己的任务看,而不是看一个总分。
- 先确认部署地和收入档位,再决定是否下载——许可不是形式条款。
- 如果要做后训练,先准备 1M 上下文的推理预算,长上下文服务的显存和吞吐会是主要成本。
- 如果只是要一个开箱可用的中文助手,等官方的 post-trained 版本,base 模型不适合直接上线。