WHAT NEW IN X10.30 FRI

X 上的 AI 合集档案 · 22 个合集 · 61,986 条

deepseek-v4.1POST

vLLM 在 V4.1 Flash 解码上追平官方推理引擎

称 vLLM 在 SemiAnalysis AgentX 上跑 DeepSeek-V4.1-Flash 解码达单卡 954K tokens/s,与 DeepSeek 自研推理引擎持平。

artem
@sunset_evm4 天前收录原推发布于 2026.10.26
artem @sunset_evm原推发布于 2026.10.26
在 X 上打开原推

vLLM now matches DeepSeek's own inference engine on DeepSeek-V4.1-Flash decoding, at 954K tokens/s per GPU on SemiAnalysis AgentX.

这条是引用着另一条写的:x.com/vllm_project/status/2114054277379641770

x.com/sunset_evm/status/2114396591314608321采集于 2026.10.26 12:04