deepseek-v4.1IMAGE
V4.1 Flash 预填充吞吐对比:zml/llmd 开发版 vs vLLM(2×GB300 TP2)
在 2 块 GB300、TP2、batch size 1 下对比 DeepSeek V4.1 Flash 的 prefill 吞吐,zml/llmd 开发版对 vLLM 提交 a608b6e6,结果以图表呈现。
Steeve Morin
@steeve9 天前收录原推发布于 2026.10.23

Steeve Morin @steeve原推发布于 2026.10.23
deepseek-ai/DeepSeek-V4.1-Flash Prefill throughput, bs=1, 2xGB300 TP2 zml/llmd dev vs vLLM a608b6e6
x.com/steeve/status/2113322016476684789采集于 2026.10.23 12:07