DeepSeek V4.1 Flash 大规模推理部署：DeepInfer 技术拆解

Leo · Building w/ AI @leo114119原推发布于 2026.10.21

在 X 上打开原推

DeepSeek V4.1 Flash 大规模推理部署实践 从deepseek 这篇知乎文来看，看DeepInfer 有哪些亮点： 系统设计亮点： 1.多厂商芯片兼容 —— 同时跑 NVIDIA 和华为昇腾 2.PD 分离 —— Prefill 用普通 8 卡机，Decode 用 64–128 卡超节点，按两阶段负载特性分别设计 3.KVCache 长保留 —— 把"缓存留 3 天"的容量与管理开销写进系统设计 技术亮点： ① SWA Bounded Replay（全文最有价值的一段） SWA KVCache 不落盘 ② Decoder SWA Bounded Replay 让 prefill 计算几乎减半 ③ DSpark 投机解码＋变长验证 ④ 零开销批调度 ⑤ Prefill 负载均衡用「拟合二次代价模型」反解出每步能放多少 token ⑥ DeepSeek Recipe 的 tokenizer 加速 更详细的，还是自已看知乎吧 https://zhuanlan.zhihu.com/p/2095560295930508953