deepseek-v4.1IMAGE
llama.cpp 用 Unsloth PR 跑 V4.1 Flash:31.6 tok/s
实测在 llama.cpp 上配合 Unsloth 版 PR 运行 DeepSeek V4.1 Flash,速度达 31.6 tok/s,作者称相当快。
きしだൠ(K1S)
@kis10 天前收录原推发布于 2026.10.22

きしだൠ(K1S) @kis原推发布于 2026.10.22
Unsloth版PRを使うと、31.6tok/secでた。かなり速い。 llama.cppでDeepSeek V4.1 FlashならUnsloth版PRだな。
这条是引用着另一条写的:x.com/kis/status/2111564981905072551
x.com/kis/status/2113046824814833901采集于 2026.10.22 11:58