单台 DGX Spark 本地实测:V4.1 Flash 1017 同题 12 题胜 GLM、Qwen
在单台 DGX Spark、262K 上下文下同题 12 题:V4.1 Flash 1017 非思考模式 11/12、31–32 tok/s,思考模式 12/12,均优于 GLM-5.3 Flash 和 Qwen3.8 Flash Next。
DGX Spark 1台で動かせるモデルで性能比較で動かしたら、結論 DeepSeek V4.1 Flash 1017が一番良好なパフォーマンスを出した。 実際に使用したモデルと重さは以下で、 コンテキスト設定はすべて262,144トークンとした。 DeepSeek-V4.1-Flash-1017-VQ-GGUF 113.56GB (旧DS4.1では約1.6bpw相当) GLM-5.3-Flash-exl3 85.15GB (2.05bpw) Qwen3.8-flash-next-ablit-Mia-Single-Spark-only 105.84GB (NVFP4/MXFP8混合) ※Engram・VisionはSSD格納なので除外表記とした。 それぞれ、同じ12問を解かせてみた。 出題したのは、各2問6種で「計算」「組み合わせ・確率」「「論理推論」「日本語情報抽出」「Python」「画像認識」 【非思考モードの結果】 DeepSeek V4.1 Flash:11/12、31〜32 tok/s GLM-5.3 Flash:10/12、約14 tok/s Qwen3.8 Flash Next:8/12、約22 tok/s さらに思考ありではDeepSeekが12/12、GLMが11/12という結果になった。 tok/sはそれぞれ、より高いパフォーマンスが期待で切ると思うので参考値として見てほしい。 当初、重い量子化において2bit以下、しかも実際はGGUFなのでパフォーマンスが出ないのではないか? と考えていたのだが、予想に反してDeepSeek V4.1 Flash 1017が一番だった。 明日、走らせて問題なければそのまま乗り換える結果になりそう。