deepseek-v4.1IMAGE

12GB RTX 5070 跑 DeepSeek V4.1 Flash 超 100 tok/s

用户用 Strata 引擎的分层分块读取和 GSQ-RCO 量化，在 12GB 显存的 RTX 5070 上跑出 100+ tok/s，称消费级 MoE 卸载已接近原生体验。

Forha

@Forhanvv3 天前收录原推发布于 2026.10.26

12GB RTX 5070 跑 DeepSeek V4.1 Flash 超 100 tok/s（第 1 张，共 2 张）

12GB RTX 5070 跑 DeepSeek V4.1 Flash 超 100 tok/s（第 2 张，共 2 张）

Forha @Forhanvv原推发布于 2026.10.26

Running DeepSeek-V4.1-Flash on a 12GB RTX 5070 at over 100+ tok/s is absolutely absurd. 😭 The Strata engine’s layer-major chunked reading + GSQ-RCO quantization makes consumer MoE offloading feel completely native. Prefill is flying, and more RAM directly boosts decode speed. Local compute is getting ridiculous. 💀

x.com/forhanvv/status/2114429171984437342采集于 2026.10.26 12:05