POST128G Mac 本地跑 V4.1 Flash:1.75bit 量化 50–76 tok/s…和数学的精度保留很好,Tool-calling 跑了 92/100;长篇小说和发散创作能看出一些量化退化。 说白了,这不是给日常轻量使用的,而是把统一内存与高速 SSD 带宽利用到极致的方案。 手…deepseek-v4.1@ohayou792 收在 No.0201 天前复制原文
POSTllama.cpp 支持 V4.1 Flash,但最小量化仍 246 GiBDeepSeek V4.1 Flash support landed in upstream ll…本地部署@wikiwayne 收在 No.0201 天前复制原文
DeepSeek V4.1 Flash 的 GSQ-RCO GGUF 量化版Abyss https://github.com/zephel01/Abyss DeepSeek …本地部署@rS_alonewolf 收在 No.0201 天前复制原文
POSTDeepSeek V4.1 Flash 原生量化在 4 台 DGX Spark 上跑出可用速度@OliverDlouhy @log4j @huggingface Somehow I think…deepseek-v4.1@someRandomDev5 收在 No.02020 小时前复制原文
RTX 5090 上 2.25bpw 量化跑 47 tok/sDay of tuning on Strata ⚡️→ then @coldniko shippe…deepseek-v4.1@lyesbahi 收在 No.02019 小时前复制原文
POSTProject Maya v1.1.30:428B 的 M3.1 Flash 量化版塞进 128GB 内存Project Maya v1.1.30 is out: MiniMax-M3.1-Flash i…minimax-m3.1@PeasantSmith 收在 No.0211 天前复制原文
M3.1 Flash 428B 量化到 143.9GB 可单机跑…v1.1 73.7%,OSWorld V2 61.7,CyberGym 82.2。 MoE加激进量化,让前沿级agent模型第一次进了高配工作站的范围。按token收费的闭源API,护城河又薄了一…minimax-m3.1@czw88888 收在 No.02115 小时前复制原文
V4.1 Flash 1017 的 TensorFold 量化权重发布在 Hugging FaceDeepSeek V4.1 Flash 1017 • M5 Ultra Tensorfol htt…deepseek-v4.1@TechMDAI 收在 No.02015 小时前复制原文
POSTStrata 上试 IQ2_XXS 量化:Engram 部分改用原始 MXFP8 权重提精度Strataで1017での推論精度アップのアイディアを見つけた。IQ2_XXS-Uncensord…deepseek-v4.1@Tono_Ken3 收在 No.02014 小时前复制原文
Grok Bot 搭量化交易终端:44 美元变 1.1 万美元Grok Bot 做量化有点强啊 ! ! ! 海外博主搭的交易终端丢了 44.82 美元,一觉醒来账户变成 11,643…personal-agent@0xlangeai 收在 No.0121 天前复制原文