DeepSeek 开源推理框架 DeepInfer，支持 V4.1 Flash 与昇腾 950

Geek Lite @QingQ77原推发布于 2026.10.21

在 X 上打开原推

全体起立! https://github.com/deepseek-ai/DeepInfer DeepInfer 是 DeepSeek 用于大规模生产服务的高性能推理框架，这次开源版本聚焦离线推理。它目前支持 DeepSeek-V4.1-Flash，可在 NVIDIA SM100 GPU 和华为昇腾 950 NPU 上运行。