deepseek-v4.1POST

SGLang 低延迟模式跑 V4.1 Flash：GB300 928 tok/s、MI355X 516 tok/s

SGLang 与 NVIDIA、AMD 合作的低延迟模式配 DSpark 跑 DeepSeek V4.1 Flash，GB300 从 671 升到 928 tok/s（1.38x），MI355X 从 332 升到 516 tok/s（1.56x），软件开源。

Neo

@NeoAIForecast11 天前收录原推发布于 2026.10.20

Neo @NeoAIForecast原推发布于 2026.10.20

在 X 上打开原推

SGLang Low-Latency Mode, built with NVIDIA and AMD, running DeepSeek V4.1 Flash with DSpark: GB300: 671 to 928 tok/s (1.38x) MI355X: 332 to 516 tok/s (1.56x) The speedup is software, and this software is open

这条是引用着另一条写的：「SGLang 低延迟模式：DeepSeek V4.1 Flash 在 GB300 上 P90 达 928 tok/s」

x.com/neoaiforecast/status/2112367263026430372采集于 2026.10.20 12:02