WHAT NEW IN X10.29 THU

X 上的 AI 合集档案 · 22 个合集 · 58,925 条

minimax-m3.1IMAGE

M3.1 Flash 开源权重本地部署:428B 总参 23B 激活,EXL3 量化后两台 DGX Spark 可跑

官方权重约 252 GB,两台 256 GB 的 DGX Spark 放不下;作者算 Mia 的 EXL3 3.06 bpw 版本 167 GB、TP2 每台 84 GB 可行,并估算 128K 上下文 KV cache 约 15.7 GB,但尚无推理引擎验证加载。

Wei
@wei_wang4 天前收录原推发布于 2026.10.24
M3.1 Flash 开源权重本地部署:428B 总参 23B 激活,EXL3 量化后两台 DGX Spark 可跑
Wei @wei_wang原推发布于 2026.10.24
在 X 上打开原推

MiniMax M3.1 Flash 的权重放出来了,428B 总参数,每个 token 激活 23B。 官方权重 252 GB 左右。我两台 DGX Spark 加起来 256 GB 内存,还要给系统和 KV cache 留地方,原版放不下。 Mia 已经做了 EXL3 3.06 bpw 的版本,文本模型 167 GB。两台 TP2 分下来每台 84 GB 左右,128GB 的 Spark 放得下,还有余量。 KV cache 不大。60 层,每层 4 个 KV 头,每头 128 维,按 BF16 算每个 token 约 120 KB,128K 上下文 15.7 GB。 这个包还没有推理引擎验证过能加载。TensorFold 两台 Spark 的配方说是快出了,出来我就上机试。

x.com/wei_wang/status/2113798638207983721采集于 2026.10.24 12:11