New todaydeepseek-v4.1POST
User reports DeepSeek V4.1 Flash 1017 takes ~65 minutes per run on vLLM
A user says a DeepSeek V4.1 Flash 1017 run on their work machine takes about 65 minutes, and notes vLLM is fast because it tunes for the GPU and precompiles CUDA graphs before serving.
SGode
@Seb_GodeArchived 8 hours agoOriginally posted 2026.10.27
SGode @Seb_GodeOriginally posted 2026.10.27
@Bassmaster187 3min? Das ist ja flott! Ich hab hier auf Arbeit ein DeepSeek V4.1 Flash 1017 das dauert ca. 65min 😅 vLLM ist deswegen so schnell weil es halt auch Tuning für die GPU durchführt und die CUDA Graphs vor dem serven compiled.
x.com/seb_gode/status/2115025296629907538Archived 2026.10.28 12:04