DeepSeek V4.1 Flash on four DGX Sparks: tuned SGLang hits 103 tok/s single-stream

Wei @wei_wangOriginally posted 2026.10.28

Open original on X

同一套 DeepSeek V4.1 Flash 1017，四台 DGX Spark，SGLang 默认参数和调好参数，代码单路差了 44%。 默认 71.6 tok/s，调完 103.1。换成 TensorFold 是 110.9，比调好的 SGLang 只多 8% 左右。 131K 上下文、4 路并发的合计速度： 1. SGLang 默认 61.2 2. SGLang 调好 90.5 3. TensorFold 90.6 后两个基本打平。冷启动 131K 的 prefill，调好的 SGLang 32.5 秒，TensorFold 56.0 秒，这一项 SGLang 反而快。 以后看引擎对比图，我会先看两边是不是都调过参数。