minimax-m3.1POST
M3.1 Flash 在 4 台 DGX Spark 上用 vLLM TP4 跑通
作者用 4 台 NVIDIA DGX Spark 加 vLLM TP4 和 DSpark 投机解码部署 M3.1 Flash,300K 上下文、1.42M token KV 池,84/84 请求通过,并公开完整脚本与踩坑记录。
Tech2Wild
@Tech2Wild4 天前收录原推发布于 2026.10.23
Tech2Wild @Tech2Wild原推发布于 2026.10.23
🔥 MiniMax-M3.1-Flash running on 4x NVIDIA DGX Spark ⚡ TP4 vLLM + native DSpark spec decoding 🧠 300K context, 1.42M-token KV pool ✅ 84/84 requests passed, up to six 100K prompts at once 🛠️ Full recipe, scripts + every gotcha 👇 https://github.com/tonyd2wild/MiniMax-M3.1-Flash-TP4-DGX-Sparks
x.com/tech2wild/status/2113635866362974715采集于 2026.10.24 12:09