deepseek-v4.1IMAGE
V4.1 Flash IQ2-XXS GGUF 实测:显存比内存更决定专家层容量
在 Pro4500 32GB 与 5080 16GB 两套配置上跑 ISTA-DASLab 的 IQ2-XXS GGUF,结论是显存减去共享权重后能放的专家层数差异最大,加内存不如加显存有效。
おののき@意識を低く持て!
@tjm88745 天前收录原推发布于 2026.10.25

おののき@意識を低く持て! @tjm8874原推发布于 2026.10.25
ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF IQ2-XXS、Strataでテスト Pro4500 32GB + Ryzen9 + DDR5 96GB > 5080 16GB + i5 + DDR4 128GB 「VRAM容量 - 共通重み = VRAMに置けるExpert」が一番大きく違うところで、24GB対7GB DRAM増強効果よりVRAMのほうが効果高い(身も蓋もない)
x.com/tjm8874/status/2114037789369258364采集于 2026.10.25 12:02