deepseek-v4.1IMAGE
RTX 5090 本地跑 V4.1 Flash IQ2_XS:128K 下 35 tok/s
Strata 0.2.4 配 IQ2_XS 量化,256K 上下文约 30 tok/s,填到 250K 仍有 17–21 tok/s,128K 设置达 35 tok/s,精度也满意。
gould
@Gould01005 天前收录原推发布于 2026.10.25

gould @Gould0100原推发布于 2026.10.25
Strata 0.2.4とDeepSeek V4.1 Flash IQ2_XSの組み合わせが面白すぎる。256Kコンテキスト設定で 〜30 tok/sくらい、250Kまで埋めても17〜21 tok/s出るし、128K設定では35 tok/sまで行けた。作業の精度も申し分ない。 RTX 5090 + RAM 96GBのゲーミングPCでこんなことができてしまうとは...。
x.com/gould0100/status/2114158751498260494采集于 2026.10.25 12:02