AMD MI325X 上 V4.1 Flash 解码提速 2.27 倍：436 tok/s

在 4 张 MI325X 上仅改解码 kernel 加 megakernel，DeepSeek V4.1 Flash-1017 单用户 P90 输出从 192.5 升到 436.3 tok/s，精度无损。

Sciforium

@sciforium7 天前收录原推发布于 2026.10.24

AMD MI325X 上 V4.1 Flash 解码提速 2.27 倍：436 tok/s

Sciforium @sciforium原推发布于 2026.10.24

DeepSeek-V4.1-Flash-1017 on AMD Instinct GPUs: 2.27× faster code generation per user with megakernels, no accuracy loss Same weights, only the decode kernel changed: 192.5 → 436.3 P90 output tok/s per user on 4× MI325X. How we verify it:

x.com/sciforium/status/2113835976258990380采集于 2026.10.24 12:06

在 X 上打开原推