WHAT NEW IN X11.01 SUN

X 上的 AI 合集档案 · 22 个合集 · 64,071 条

deepseek-v4.1IMAGE

llama.cpp 跑 V4.1 Flash:修长上下文变慢后 27→28.5 tok/s

本地部署反馈:针对 llama.cpp 中 V4.1 Flash 随上下文变长严重变慢的问题做了处理,速度从 27 提升到 28.5 tok/s,变慢曲线也变缓;Unsloth 另有更快的 PR。

きしだൠ(K1S)
@kis10 天前收录原推发布于 2026.10.21
llama.cpp 跑 V4.1 Flash:修长上下文变慢后 27→28.5 tok/s
きしだൠ(K1S) @kis原推发布于 2026.10.21
在 X 上打开原推

llama.cppでのDeepSeek V4.1 Flashがコンテキスト長にたいして遅くなりすぎだったので対処したら、27tok/secだったのが28.5tok/secに改善した。たぶん遅くなりかたもゆるやかになったはず。 しかしUnslothさんが別PRを出していて、そっちのほうが速そう。

x.com/kis/status/2112623238757143014采集于 2026.10.21 12:10