deepseek-v4.1VIDEO
4 台 DGX Spark 实测 V4.1 Flash:预填 3500–4000 tok/s,代码解码 83 tok/s
SGLang + TP4 环形部署下,预填在 4K–274K 输入几乎恒定 3500–4000 tok/s;代码解码 83 tok/s、散文约 45 tok/s,274K 长上下文解码约 47 tok/s、TTFT 约 77 秒。
orenoa
@orenoa711 天前收录原推发布于 2026.10.20

orenoa @orenoa7原推发布于 2026.10.20
DeepSeek-V4.1-Flash-1017 を実測 (DGX Spark 4台・TP4・リング方式) ■ プリフィル速度 約3,500〜4,000 tok/s ※ 入力4K〜274Kでほぼ一定 ■ 単独デコード速度 コード 83 tok/s 散文 約45 tok/s ■ 並列合計スループット 4並列 96 tok/s 8並列 128 tok/s ※英語解説文 ■ 長コンテキストでのデコード速度 274K入力 約47 tok/s ※TTFT 約77秒 ■ 構成 重み: 公式 推論エンジン: SGLang 思考 : オフ 計測 : 各3〜5回試行の中央値
x.com/orenoa7/status/2112329981271654689采集于 2026.10.20 12:05