minimax-m3.1POST
四台 DGX Spark 跑 M3.1 Flash:84 tok/s 解码
用户用 4 台 DGX Spark + vLLM + DSpark 投机解码本地跑 M3.1 Flash,同时处理 6 个约 100K token 的 prompt,合计解码 84 tok/s、prefill 约 1,480 tok/s。
dextune
@dextune3 天前收录原推发布于 2026.10.24
dextune @dextune原推发布于 2026.10.24
MiniMax M3.1 Flash on 4x DGX Spark @ToNYD2WiLD reports running it across four DGX Sparks with vLLM and DSpark speculative decoding. In the 2026-10-23 run, the setup handled six ~100K-token prompts at once, with 84 tok/s combined decode and about 1,480 tok/s prefill. https://github.com/tonyd2wild/MiniMax-M3.1-Flash-TP4-DGX-Sparks
x.com/dextune/status/2113841813614473354采集于 2026.10.25 12:07