Unsloth 发布 M3.1 Flash 量化 GGUF：2-bit 体积缩 45%，150GB 内存可跑

Crio Songo @shuizhuyu原推发布于 2026.10.27

在 X 上打开原推

## Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF，2-bit 版可在 150GB 内存本地运行 MiniMax-M3.1-Flash 现在能本地跑了。Unsloth 发布了量化 GGUF，2-bit 版本体积缩小 45%，保留 91.5% 的 top 1 准确率，150GB 内存就能跑起来。 官方给的信息里，这模型在 Cowork 任务上 Automation-Bench 62%、ALE 30%，编程 DeepSWE 74%，视觉推理 BabyVision 91%。成本是 M3 的 1/3，速度提升 3 倍。API 统一费率：每 1M 输入/输出 tokens 分别 $0.15 / $0.60，缓存读取 $0.015 / 1M tokens。 模型权重将于 10 月 23 日发布。GGUF 和部署指南已经放出来了。 #MiniMax #GGUF #本地部署