DeepSeek open-sources DeepInfer inference engine, first targeting V4.1 Flash

索拉拉 @solala0052Originally posted 2026.10.22

Open original on X

DeepSeek周二又甩出王炸，把自研并用于线上生产环境的模型推理引擎DeepInfer彻底开源了，代码直接挂在GitHub上，采用Apache 2.0协议，目前首发专门给DeepSeek-V4.1-Flash加速。 这个框架把分布式跨芯片计算、投机解码等技术全打包了进去，能让模型一次性预测并验证多个词元，大幅降低推理延迟和算力消耗。更引人注意的是硬件兼容性，它不仅针对英伟达最新的SM100数据中心显卡做了深度优化，还原生支持华为昇腾950芯片。 国内大模型厂商大多把推理优化方案藏在自家云服务后面卖钱，DeepSeek却把生产栈的核心组件直接端给社区。这种打法既把整个生态的使用成本拉下来，也让国产算力跑前沿模型有了现成的工程范本。