今天新增deepseek-v4.1IMAGE
四台 DGX Spark 实测:SGLang 调参后单路 103 tok/s
同一套 V4.1 Flash 1017 在四台 DGX Spark 上,SGLang 默认 71.6 tok/s、调参后 103.1,TensorFold 110.9;131K 冷启动 prefill SGLang 更快。
Wei
@wei_wang11 小时前收录原推发布于 2026.10.28

Wei @wei_wang原推发布于 2026.10.28
同一套 DeepSeek V4.1 Flash 1017,四台 DGX Spark,SGLang 默认参数和调好参数,代码单路差了 44%。 默认 71.6 tok/s,调完 103.1。换成 TensorFold 是 110.9,比调好的 SGLang 只多 8% 左右。 131K 上下文、4 路并发的合计速度: 1. SGLang 默认 61.2 2. SGLang 调好 90.5 3. TensorFold 90.6 后两个基本打平。冷启动 131K 的 prefill,调好的 SGLang 32.5 秒,TensorFold 56.0 秒,这一项 SGLang 反而快。 以后看引擎对比图,我会先看两边是不是都调过参数。
x.com/wei_wang/status/2115218745584930844采集于 2026.10.28 12:02