deepseek-v4.1POST

7900 XTX 本地跑 V4.1 Flash IQ2XS 量化：解码 10 tps

在 7900 XTX 加 7800X3D、60GB DDR5 上以 GSQ-RCO IQ2XS 量化运行 V4.1 Flash 1017，解码 10 tps、预填充 800 tps，FP4 KV 缓存下上下文 200k，作者感叹显存和内存还差一点。

dextune

@dextune2 天前收录原推发布于 2026.10.26

dextune @dextune原推发布于 2026.10.26

在 X 上打开原推

DeepSeek V4.1 Flash 1017 GSQ-RCO IQ2XS w/ 7900 XTX 7800X3D CPU 60GB DDR5 RAM Decode 10 tps Prefill 800 tps Context is 200k with an FP4 KV cache. - If only it had just a bit more VRAM or RAM. https://x.com/Chromadera/status/2114691152842498483

这条是引用着另一条写的：x.com/chromadera/status/2114691152842498483

x.com/dextune/status/2114701121528979954采集于 2026.10.27 12:10