deepseek-v4.1THREAD
DeepSeek V4.1 Flash 1017 EXL3 3.5bpw 量化：240 GiB，代码/散文分数仅降 0.
作者发布 3.5bpw EXL3 量化版（240 GiB），在代码与散文测试集上相对 base 1017 仅退化 0.8% / 0.1%，并给出 2.9bpw 对照数据与 Kit 用户的 KMAP_HOST 配置方法。
LibertAI 🕶️
@Libertai_DAI11 天前收录原推发布于 2026.10.18
THREAD
Now at 3.5 bpw too: 240 GiB. Same sets, code / prose: base 1017: 1.8749 / 6.4277 3.5 bpw: 1.8895 / 6.4341 (+0.8% / +0.1%) 2.9 bpw: 1.9094 / 6.4520 Kit users: point KMAP_HOST at this repo's exl3_k_map.json. 🤗 https://huggingface.co/LibertAIDAI/DeepSeek-V4.1-Flash-1017-EXL3-3.5bpw
1017, part 2: EXL3. DeepSeek-V4.1-Flash-1017 at 2.9 bpw for exllamav3: 196 GiB of weights. The first EXL3 of 1017 on Hugging Face. Perplexity vs the base model: +1.8% on code, +0.4% on prose. 🤗 https://huggingface.co/LibertAIDAI/DeepSeek-V4.1-Flash-1017-EXL3-2.9bpw
这条是引用着另一条写的：「DeepSeek V4.1 Flash 1017 首个 NVFP4 量化版发布」
LibertAI 🕶️ @Libertai_DAI原推发布于 2026.10.18
x.com/libertai_dai/status/2111538101210464590采集于 2026.10.18 16:29