deepseek-v4.1IMAGE

DeepSeek V4.1 Flash IQ2_XS on RTX 5090: 35 tok/s at 128K

With Strata 0.2.4 and IQ2_XS quantization on an RTX 5090, the model hits ~30 tok/s at 256K context, 17–21 tok/s near 250K, and 35 tok/s at 128K, with solid accuracy.

gould

@Gould0100Archived 6 days agoOriginally posted 2026.10.25

DeepSeek V4.1 Flash IQ2_XS on RTX 5090: 35 tok/s at 128K

gould @Gould0100Originally posted 2026.10.25

Open original on X

Strata 0.2.4とDeepSeek V4.1 Flash IQ2_XSの組み合わせが面白すぎる。256Kコンテキスト設定で〜30 tok/sくらい、250Kまで埋めても17〜21 tok/s出るし、128K設定では35 tok/sまで行けた。作業の精度も申し分ない。 RTX 5090 + RAM 96GBのゲーミングPCでこんなことができてしまうとは...。

x.com/gould0100/status/2114158751498260494Archived 2026.10.25 12:02