deepseek-v4.1POST
vLLM 在 V4.1 Flash 解码上追平官方推理引擎
称 vLLM 在 SemiAnalysis AgentX 上跑 DeepSeek-V4.1-Flash 解码达单卡 954K tokens/s,与 DeepSeek 自研推理引擎持平。
artem
@sunset_evm4 天前收录原推发布于 2026.10.26
artem @sunset_evm原推发布于 2026.10.26
vLLM now matches DeepSeek's own inference engine on DeepSeek-V4.1-Flash decoding, at 954K tokens/s per GPU on SemiAnalysis AgentX.
这条是引用着另一条写的:x.com/vllm_project/status/2114054277379641770
x.com/sunset_evm/status/2114396591314608321采集于 2026.10.26 12:04