DeepSeek 开源推理框架 DeepInfer，支持 V4.1 Flash 与昇腾 950

DeepSeek 在 GitHub 上以 Apache 2.0 协议开源推理框架 DeepInfer，支持 DeepSeek-V4.1-Flash，硬件覆盖 NVIDIA SM100 GPU 与华为昇腾 950 NPU。框架包含草稿 token 校验调度 DSpark、滑动窗口有界重放和异步调度等优化，结构化输出支持正则、JSON Schema 和 EBNF 约束。官方性能测试条件为预填充 4 张 SM100、解码 64 张，且目前仅提供离线推理，KV 缓存与负载均衡等在线服务组件未包含。该帖在 Hacker News 获得 2104 points 和 821 条评论。