DeepSeek 开源推理引擎 DeepInfer：仅支持 V4.1 Flash 与数据中心卡

Taylor @Taylor_AIPM原推发布于 2026.10.28

在 X 上打开原推

聊一聊Deepseek开源的推理引擎DeepInfer 先说结论, 这次开源主要利好对托管厂商, 对生态开放最新推理工程实践, 对个人开发者间接影响. DeepSeek主要开源了两样东西: 推理框架和高性能算子, 主要支持分布式推理, 结构化输出等. 之所以说对个人影响有限是因为, 推理框架只支持NVDIA和华为的数据中心卡,如B200、昇腾 950, 且大模型只支持DeepSeek-V4.1-Flash, 只提供了离线推理. 这三个关键特性就决定了DeepSeek是想针对大客户企业做私有化大模型定制, 对生态的影响 主要是生产级推理代码如投机解码、专家并行、SWA bounded replay, 以前只能看论文, 现在直接读实现, vLLM和SGLang可能会有所吸收 最后是对个人开发者, 可能长期来看有两个利好, 一个是推理成本下降, 且可选择的供应商会增多, 然后对比官方的API, 大模型输出结果更偏一致.