Unsloth 把 MiniMax M3.1 Flash 压成 2-bit GGUF:约 144GB,150GB 内存可
428B MoE 的 M3.1 Flash 经 Unsloth 2-bit 动态量化后约 144GB,官方自评七个领域 top-1 token 一致率 91.5%,150GB 内存即可家用,适合不想上云的小工作室。
Un modelo de 428 mil millones de parámetros suena a sala de servidores con aire acondicionado industrial. Unsloth acaba de meter MiniMax M3.1 Flash en un GGUF de 2 bits: queda en unos 144 GB y, según su propia evaluación, conserva 91,5% de acierto en el token principal. Con 150 GB de RAM lo corres en casa. Sigue siendo una máquina seria, nada de laptop. Pero para un estudio chico que no quiere mandar su código ni sus assets a la nube, ese número abre una puerta que hace un año tenía candado. Lo local avanza a paso firme, y para los equipos pequeños es la mejor noticia de la semana. #MiniMax #Unsloth #LocalLLM
这条是引用着另一条写的:「Unsloth 发布 M3.1 Flash 2-bit GGUF:150GB 内存可跑」