DeepSeek V4.1 Flash 实测与对比

BugBunny 报告称 DeepSeek V4.1-Flash-1017 在 VulnPR-100 上以 7.53 美元成本发现 54 个漏洞，作者认可单次发现成本，但想要误报率和未见仓库上的结果。

用 Strata 2.00bpw 量化在 24GB 3090 上跑 763B，64K 上下文正常启动，短文生成中位 15.9 tok/s；OpenCode 修 bug 任务 21/21 首次全过，耗时 44 分钟。

不再需要第三方补丁；按显存估算，128GB 的 RTX Spark/DGX Spark/MacBook 可跑 1-bit 量化，256GB Mac Studio 可上 3-bit，4-bit 以上需 300GB 出头。

该用户认为 1017 的 45 分与实际表现不符，有时能打赢 55 分的 K3.1，两者应同列 1.5 档。

同一基准下 DeepSeek 找出 54 个 PR 漏洞、花费不到 8 美元；Kimi K3.1 Pro 找出 47 个、花费超 100 美元。

此前需第三方补丁才能本地跑，现在主干直接支持，少一层折腾；发帖者问大家是等量化包还是直接上主干。

vLLM 称在 DeepSeek 解码配置下跑 V4.1 Flash，批大小 8 到 256 时吞吐与官方 DeepInfer 相当，用 DEP32 对 EP64DP64。

两家推理框架称在 DeepSeek V4.1 Flash 上达到 DeepInfer 水平，做法是集成 Mega 系列、DSpark 等组件，并附官方博客链接。

从 16GB RTX 5060 Ti 到四台 DGX Spark（512GB），用本地开源权重搭交互世界；V4.1 Flash 跑在两台 DGX Spark 上。

用 GSQ-RCO 量化配 Strata 推理引擎，可在 12GB 消费级显卡上跑 DeepSeek-V4.1-Flash，RTX 5070 加 64GB 内存达 105–117 tok/s，prefill 明显快于 decode。

作者对 DeepSeek V4.1-Flash-1017 做 heretic 消融得到去审查版，称 MMLU 与 HumanEval 无可测差异，正跑完整基准看工具调用能力，明天再用 BFCL 对比基线。

ISTA-DASLab 发布 GSQ-RCO 量化的 GGUF 版，2.00bpw 约 257GB，需 Strata 分支运行；RTX 5090 + 128GB 内存实测 26,950 token 上下文下生成 10–11 tok/s、预填充 270–300 tok/s。