服务变动 · DeepSeek
DeepSeek 开源 DeepInfer 离线推理框架，配套 recipe 更新至 0.2.0
- 审核更新时间
DeepSeek 于北京时间2026年10月20日宣布开源 DeepInfer，源自支撑 DeepSeek-V4.1-Flash 的生产推理框架。本次公开版本提供离线推理，支持 NVIDIA SM100 与华为昇腾 950，包含高性能内核、分布式推理、推测解码、SWA bounded replay 和结构化输出；完整在线服务所需的 KV cache 系统、VE/Prefill/Decode 分离部署及跨副本负载均衡不在本次发布范围。配套 deepseek-recipe 库提供与官方 API 对齐的格式转换、token 编解码及输出解析，10月20日更新至0.2.0，非今日首次发布；调用方仍需自行处理推理和工具执行。