deepseek-v4.1IMAGE
4090/48G 原版 Maya-XS 跑 V4.1 Flash 破 70 tok/s
单卡 4090/48G 不打补丁用原版 Maya-XS 引擎,代码生成 65 tok/s(峰值 72.4),16K 首字从 23.5 秒降到 8.6 秒。
huangserva
@servasyy_ai9 天前收录原推发布于 2026.10.23

huangserva @servasyy_ai原推发布于 2026.10.23
我的天!!!70+ tok/s !! 单台 4090/48G 跑 DeepSeek V4.1-Flash-1017 的速度彻底被突破了! 之前我们手工打了 5 层补丁,写代码一直卡在 17 tok/s。 今天直接上原版 Maya-XS 引擎,一个补丁没打 实测直接突破 70 tok/s: • 代码生成飙到 65 tok/s(峰值 72.4),暴涨 3.8 倍 • 日常聊天 26.4 tok/s,提速 55% • 16K 超长文本首字从 23.5 秒缩到 8.6 秒,快了 2.7 倍 底层的工程思路极其漂亮:48GB 显存吃满高频热专家(代码命中率高达 72%) 冷专家走内存 mmap 按需流式补页,搭配 DSpark 投机解码,磁盘读取仅 12-15MiB/token,丝毫不卡顿。 折腾一圈终于有标准答案了:4090 跑 1017 别再魔改,原版 Maya-XS 就是目前的最优解!
这条是引用着另一条写的:「763B 参数 V4.1 Flash 跑在 3 张 V100 32GB 上」
x.com/servasyy_ai/status/2113450585198641208采集于 2026.10.23 12:05