deepseek-v4.1POST
deepseek-recipe 用 vLLM 本地跑 V4.1 Flash 1017
开源项目 deepseek-recipe 在双 DGX Spark 上以 vLLM 部署 V4.1 Flash 1017,称 prompt token 与官方 API 一致,thinking、effort、JSON schema、tools 均已修好,且不损速度。
Sufyan
@sfxnz9 天前收录原推发布于 2026.10.23
Sufyan @sfxnz原推发布于 2026.10.23
DeepSeek V4.1 Flash 1017 now handles requests like the official API. deepseek-recipe now fronts vLLM: • prompts token identical to the API • thinking, effort, JSON schema, tools fixed • Chat, Anthropic & Responses API's • no speed cost Local. Free https://github.com/sfxnz/DeepSeek-V4.1-Flash-1017-EXL3-2.7bpw-vLLM-2x-DGX-Spark
x.com/sfxnz/status/2113305564323197286采集于 2026.10.23 12:08