今天新增deepseek-v4.1POST
用户反馈 V4.1 Flash 1017 在 vLLM 上跑一次约 65 分钟
德国用户称工作机上 V4.1 Flash 1017 一次任务要 65 分钟左右，并解释 vLLM 快是因为做了 GPU 调优和预编译 CUDA Graphs。
SGode
@Seb_Gode8 小时前收录原推发布于 2026.10.27
SGode @Seb_Gode原推发布于 2026.10.27
@Bassmaster187 3min? Das ist ja flott! Ich hab hier auf Arbeit ein DeepSeek V4.1 Flash 1017 das dauert ca. 65min 😅 vLLM ist deswegen so schnell weil es halt auch Tuning für die GPU durchführt und die CUDA Graphs vor dem serven compiled.
x.com/seb_gode/status/2115025296629907538采集于 2026.10.28 12:04