deepseek-v4.1VIDEO
V4.1 Flash 1017 NVFP4 在 4 台 DGX Spark 环网部署：单流 92–98 tok/s
用 NVIDIA Flare 在 4 台 DGX Spark 无交换机 QSFP 环上跑 NVFP4 量化，1–3 流快于 vLLM；单流计数 92–98 tok/s、代码 85–89 tok/s，114K token 霓虹城任务 62.5 tok/s。
Carlos Alvarado
@calvarado20049 天前收录原推发布于 2026.10.23
Carlos Alvarado @calvarado2004原推发布于 2026.10.23
DeepSeek-V4.1-Flash-1017 NVFP4 on NVIDIA Flare, across 4 DGX Sparks in a QSFP ring, no switch. Faster than vLLM on 1-3 Streams. 1 stream: 92–98 tok/s count, 85–89 code. Faster than our vLLM recipe. One-shot neon city at Max effort: 114K tokens at 62.5 tok/s. Recipe: https://github.com/calvarado2004/deepseek-v41-1017-nvfp4-nvidia-flare @MiaAI_lab @Tech2Wild @mmastrac @Libertai_DAI
x.com/calvarado2004/status/2113342060887433562采集于 2026.10.23 12:08