deepseek-v4.1IMAGE
DeepSeek V4.1 Flash hits 70+ tok/s on a single 4090/48G with stock Maya-XS
On one 4090/48G, stock Maya-XS with no patches pushes DeepSeek V4.1 Flash to 65 tok/s code generation (72.4 peak) and cuts 16K first-token latency from 23.5s to 8.6s.
huangserva
@servasyy_aiArchived 9 days agoOriginally posted 2026.10.23
huangserva @servasyy_aiOriginally posted 2026.10.23
我的天！！！70+ tok/s ！！ 单台 4090/48G 跑 DeepSeek V4.1-Flash-1017 的速度彻底被突破了！ 之前我们手工打了 5 层补丁，写代码一直卡在 17 tok/s。 今天直接上原版 Maya-XS 引擎，一个补丁没打 实测直接突破 70 tok/s： • 代码生成飙到 65 tok/s（峰值 72.4），暴涨 3.8 倍 • 日常聊天 26.4 tok/s，提速 55% • 16K 超长文本首字从 23.5 秒缩到 8.6 秒，快了 2.7 倍 底层的工程思路极其漂亮：48GB 显存吃满高频热专家（代码命中率高达 72%） 冷专家走内存 mmap 按需流式补页，搭配 DSpark 投机解码，磁盘读取仅 12-15MiB/token，丝毫不卡顿。 折腾一圈终于有标准答案了：4090 跑 1017 别再魔改，原版 Maya-XS 就是目前的最优解！
This post quotes another post: “763B DeepSeek V4.1-Flash-1017 running on 3x Tesla V100 32GB”
x.com/servasyy_ai/status/2113450585198641208Archived 2026.10.23 12:05