vLLM：批大小 8–256 时与 DeepInfer 表现相当

AI超元域 @AISuperDomain原推发布于 2026.10.25

在 X 上打开原推

vLLM 表示，在 DeepSeek 的解码配置下 针对 DeepSeek-V4.1-Flash，批大小从8到256时 vLLM 的表现与 DeepSeek 自有引擎 DeepInfer 相当 vLLM 使用的是 DEP32，而 DeepInfer 使用 EP64DP64

这条是引用着另一条写的：x.com/vllm_project/status/2114054277379641770