发布了什么

DeepSeek 10 月 20 日在 GitHub 开源 DeepInfer，许可证为 Apache 2.0。官方定位是「支撑 DeepSeek 大规模生产服务的高性能推理框架」，这次开放的是离线推理部分，默认模型为 DeepSeek-V4.1-Flash-1017（权重为 MIT 许可）。

包含的能力

  • 内核层：FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect 与自研 TileLang 内核；
  • 并行：Attention DP / 均衡 CP，MoE 专家并行加 EPLB；
  • 解码：DSpark 与置信度调度的验证式投机解码；
  • 长上下文：SWA 有界重放，只重放有限后缀以降低 prefill 开销；
  • 工程特性：零开销批调度、批不变推理、确定性采样；
  • 输出约束：正则、JSON Schema、EBNF 三种结构化输出。

没包含什么

README 把边界写得很直白：完整在线服务还缺 KV cache 系统、视觉编码与 prefill/decode 分离、以及数据并行副本之间的负载均衡。这三块与 DeepSeek 内部基础设施深度耦合，本次没有开源。想照着仓库直接搭一个兼容官方 API 的服务，会卡在这里。

硬件与依赖

支持 Nvidia SM100 GPU 与华为 Ascend 950 NPU；系统要求 Linux、GCC 13 以上、Python 3.12，Nvidia 侧需要 CUDA 13，Ascend 侧需要 CANN 9.2。官方公布的性能图只覆盖 Nvidia 硬件，Ascend 上的吞吐没有公开数据。

官方给出的规模数字

配套技术文章称，单个集群每天服务 155 万亿 token，按谷时电价折算每 GPU 小时收入 38 美元，KV cache 保留超过 72 小时以减少重复 prefill。这些是厂商自述，仓库本身不包含可复现这些数字的完整服务组件，第三方也无法据此验证生产一致性。

模型侧，V4.1 Flash 1017 在 OpenRouter 上的标价是每百万输入 0.15 美元、输出 0.60 美元，上下文 1,048,576 token。

判断

这次开源的信号意义大于即用价值：DeepSeek 把内核和调度层放出来，等于邀请外部团队一起做国产加速器适配和推理优化；但「引擎」与「服务」之间隔着的正是最难的工程部分。对多数团队，短期仍应把官方 API 当基线，把 DeepInfer 当成特定硬件上的优化参考。

开源了发动机，没开源变速箱——能不能上路，取决于你自己补的那三块。