deepseek-v4.1VIDEO

DeepSeek V4.1 Flash on four DGX Sparks: 3,500–4,000 tok/s prefill, 83 tok/s code decode

With SGLang on 4-way tensor parallelism, prefill holds 3,500–4,000 tok/s from 4K to 274K input; code decodes at 83 tok/s, prose ~45 tok/s, and 274K-context decode ~47 tok/s with ~77 s TTFT.

orenoa

@orenoa7Archived 11 days agoOriginally posted 2026.10.20

DeepSeek V4.1 Flash on four DGX Sparks: 3,500–4,000 tok/s prefill, 83 tok/s code decode

orenoa @orenoa7Originally posted 2026.10.20

Open original on X

DeepSeek-V4.1-Flash-1017 を実測 (DGX Spark 4台・TP4・リング方式) ■ プリフィル速度 約3,500〜4,000 tok/s ※ 入力4K〜274Kでほぼ一定 ■ 単独デコード速度 コード 83 tok/s 散文約45 tok/s ■ 並列合計スループット 4並列 96 tok/s  8並列 128 tok/s ※英語解説文 ■ 長コンテキストでのデコード速度 274K入力約47 tok/s ※TTFT 約77秒 ■ 構成 重み: 公式 推論エンジン: SGLang 思考 : オフ計測 : 各3〜5回試行の中央値

x.com/orenoa7/status/2112329981271654689Archived 2026.10.20 12:05