deepseek-v4.1IMAGE
RTX 5090 上 V4.1 Flash 2.25bpw 量化：长生成约 50 tok/s、Prefill 1350
在 RTX 5090 上用 Strata 跑 2.25bpw / 32GB 量化的 V4.1 Flash，256K 上下文下长生成平均约 50–51 tok/s，冷启动 Prefill 达 1350 tok/s。
Lyes Sbahi
@lyesbahi1 天前收录原推发布于 2026.10.27
Lyes Sbahi @lyesbahi原推发布于 2026.10.27
Day of tuning on Strata ⚡️ No magic "Turbo" switch yet, but solid raw metrics on DeepSeek-V4.1-Flash (2.25 bpw / 32 GB) using the RTX 5090: 🔹 ~50-51 t/s long gen avg (2.2k tokens bench, 256K ctx) 🔹 1,350 t/s prefills @coldniko
x.com/lyesbahi/status/2114858533984629107采集于 2026.10.27 12:08