推理优化后 V4.1 Flash 1017 跑到 744 tok/s、97% 缓存命中

CV.YH @0xCVYH原推发布于 2026.10.23

在 X 上打开原推

Com a otimização que fiz na inferência do Deepseek V4.1 Flash 1017, estamos chegando a rodar 744 tokens por segundo com 97% de cache hit. Sinto que quanto mais me aprofundo em otimização e aprendizado da inferência eu vou conseguir impactar mais pessoas. Venham pro Cultura Builder.