deepseek-v4.1POST

V4.1 Flash 1017 GGUF 量化已放出：Q4_K_M 约 445GB，Q3 可跑在 4 台 DGX Spa

GGUF 量化已上线：Q2_K 约 265GB、Q3_K_M 约 350GB、Q4_K_M 约 445GB，Q3 可装进 4 台 DGX Spark；目前仅文本、需 llama.cpp V4.1 PR 分支，另有约 115GB 单 Spark 的 VQ 版本在转换中。

𝙒𝙞𝙡𝙘𝙤 𝘷𝘢𝘯 𝘽𝙤𝙭𝙩𝙚𝙡 ⚡🚀🧲🌞

@nuonrg10 天前收录原推发布于 2026.10.17

𝙒𝙞𝙡𝙘𝙤 𝘷𝘢𝘯 𝘽𝙤𝙭𝙩𝙚𝙡 ⚡🚀🧲🌞 @nuonrg原推发布于 2026.10.17

在 X 上打开原推

GGUF quants of DeepSeek V4.1 Flash 1017 are already up: Q2_K ~265GB, Q3_K_M ~350GB, Q4_K_M ~445GB. Q3 fits nicely on 4 DGX Sparks. Text-only for now, and you need the llama.cpp V4.1 PR branch. Even more interesting: a VQ build sized for a single Spark (~115GB) is being converted right now, with the Engram tables read from disk. One Spark, near-frontier open model. Links below.

x.com/nuonrg/status/2111408049411723352采集于 2026.10.18 16:45