minimax-m3.1POST

M3.1 Flash 在 4x DGX Spark 上跑 vLLM TP4：约 40 tok/s

本地部署实测：428B/23B 激活的 M3.1 Flash 用 day-0 vLLM TP4 配方跑在 4 台 DGX Spark 上，c1 下散文约 40 tok/s、结构化约 62 tok/s，262K 上下文（自报）；2-Spark 的 EXL3 3.06bpw（约 171GB）与 163GB 专家剪枝 NVF

𝙒𝙞𝙡𝙘𝙤 𝘷𝘢𝘯 𝘽𝙤𝙭𝙩𝙚𝙡 ⚡🚀🧲🌞

@nuonrg4 天前收录原推发布于 2026.10.23

𝙒𝙞𝙡𝙘𝙤 𝘷𝘢𝘯 𝘽𝙤𝙭𝙩𝙚𝙡 ⚡🚀🧲🌞 @nuonrg原推发布于 2026.10.23

在 X 上打开原推

MiniMax-M3.1-Flash (428B/23B active) is already running on 4x DGX Spark: day-0 vLLM TP4 recipe by @majewskizby, ~40 tok/s prose / ~62 structured at c1, 262K ctx (self-reported). 2-Spark options are coming too: @MiaAI_lab EXL3 3.06bpw (~171GB) + TensorFold recipe soon, and a ~163GB expert-pruned NVFP4. #DGXSpark #LocalAI

x.com/nuonrg/status/2113539212028870814采集于 2026.10.24 12:11