DeepSeek 把看家的推理框架开源了

10 月 20 日下午，DeepSeek 宣布把内部推理框架 DeepInfer 全面开源，同时开放生产级 Token 编解码组件 deepseek-recipe。官方的说法是：模型决定能力边界，但能不能以合理成本提供超大规模服务，取决于一个长期没被看见的中间层——推理框架，它负责调度庞大算力集群，效率直接决定算力成本与电力消耗。

开源了什么，看 GitHub 比看新闻稿准。许可证 Apache-2.0，当前支持 DeepSeek-V4.1-Flash（默认权重 DeepSeek-V4.1-Flash-1017）。特性包括优化算子（FlashMLA、DeepGEMM、DeepEP、TileKernels 等）、Attention DP 与均衡 CP、MoE 的 EP 加 EPLB、DSpark 投机解码、SWA 有界重放、零开销异步批调度、批次不变推理、确定性采样，以及按正则或 JSON Schema 约束的结构化输出。官方线上那套让推理又快又稳的工程件，基本都在。

硬件支持是重点。README 列明支持英伟达 SM100 GPU 与华为昇腾 950 NPU，构建要求 Linux、GCC 13 以上、Python 3.12，英伟达走 CUDA 13、昇腾走 CANN 9.2——国产卡是官方一等公民，不是打补丁的兼容层。缺口也要说清：本次是离线推理版本，完整在线服务还需要 KV cache 系统、Prefill 与 Decode 分离部署、数据并行副本间的负载均衡，这些没打包进来。

为什么有分量。此前开放权重、不开放推理框架是 MaaS 厂商保住 API 收入的常见做法，因为框架效率直接决定别人能不能用更低成本跑出同样服务。经济观察报称，DeepSeek 是全球头部大模型中第一家开放自己实际运行推理框架的企业。云厂商用原生框架部署后，性能与成本能贴近官方，调度合理时甚至更便宜。

对普通人意味着什么：短期最直接的变化是便宜的模型会更便宜。框架决定单位算力吞吐，谁都能用上官方同款调度，等于把成本曲线往下压一格——这比再发一个跑分高两分的模型，对日常工具价格的影响更实在。想私有化部署的团队门槛降了一层，但硬件起点是 SM100 或昇腾 950，这是给手里有卡的人用的。

出处：DeepSeek 官方 GitHub 仓库 · 原文发布：2026-10-20