DeepSeek open-sources DeepInfer: 155T tokens/day per cluster, 82–92% theoretical GPU margin
DeepSeek open-sourced DeepInfer, the inference framework serving V4.1 Flash, disclosing 155T tokens/day per cluster and $38/GPU-hour revenue, implying roughly 82–92% theoretical margin at $3–7/hour GPU cost.
DeepSeek、10月20日に推論フレームワークDeepInferをオープンソース化。公式GitHubで本番環境の収益性に関する数字まで開示してきた。 対象はDeepSeek V4.1 Flash。 1クラスターの処理量は155兆トークン/日 ・GPU 1基当たり売上は38ドル/時（オフピーク料金基準） ・KVキャッシュを長期保存し、入力の再計算を削減 仮にGPUの調達コストを3〜7ドル/時とすると、GPU費用控除後の理論利益率は約82〜92%。 激安API料金は赤字覚悟？と思っていたけど、実際には推論原価が非常に安い可能性がある。 ただし、38ドルの実際の課金回収額や無料利用の割合は不明。設備・ストレージ・通信費、研究開発費、学習費用まで含めた全社の利益率ではない。 それでも、こんなに安い料金設定でGPU当たりこれだけの売上を生み出せるなら、AIの推論ビジネスは想像以上に収益性が高いのかもしれない。 推論原価の低下がAPI値下げと利用量の爆発につながるなら、GPU需要にとってもむしろ強気材料になる印象。 出典：DeepSeek公式GitHub https://github.com/deepseek-ai/DeepInfer/blob/main/doc/inference_deployment_qa.md