MiniMax open-sources M3.1 Flash weights: 428B total, 23B active
MiniMax released M3.1 Flash weights on Oct 23 with 428B total and 23B active parameters, sparse attention in the first three full-attention layers and W4A4 MoE experts, claiming 100T tokens processed in 72 hours and confirming it was the anonymous Space Bunny.

② MiniMax 开源 M3.1 Flash:72 小时跑完 100 万亿 Token 发生了什么 10 月 23 日 MiniMax 开源 M3.1 Flash 权重,总参数 428B、激活 23B。前三个全注意力层改稀疏注意力,MoE 路由专家迁至 W4A4 量化。 看点 上线 72 小时真实用户处理超 100 万亿 Token,平均每秒 3.9 亿;线上推理提速近 3 倍,使用成本降 70%。华为昇腾、英伟达、AMD 首日完成接入。 ⚠️ 此前为匿名模型 Space Bunny,开放权重时才认领;调用量含免费期流量。 #MiniMax #开源模型 #大模型 https://x.com/ChinaAIDaily/status/2114707775658037337?s=20
This post quotes another post: x.com/chinaaidaily/status/2114707775658037337