华为昇腾 0 Day 适配 Kimi K3.1 Pro 推理部署
华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署，2.8 万亿级 MoE 模型能力再进阶
Kimi K3.1 Pro 发布当天昇腾就能跑推理了，2.8 万亿参数、百万上下文，用 vLLM Ascend 或 SGLang 可直接部署。
月之暗面于 2026 年 11 月 4 日公布 Kimi K3.1 Pro 完整模型权重，该模型拥有 2.8 万亿参数，原生支持视觉理解，具备百万 token 上下文窗口。华为昇腾基于 vLLM Ascend 和 SGLang 在发布当天完成推理适配，覆盖 Atlas 800 A3、Atlas 900 A3 SuperPod 及昇腾 950 超节点等产品。适配工作完成了 KDA 线性注意力与 DSA 稀疏注意力等新增架构路径的支持，并对算子执行、缓存管理和跨卡通信做了协同优化。开发者可参考 vLLM Ascend 与 SGLang 的部署指导在昇腾硬件上部署该模型。
华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署，2.8 万亿级 MoE 模型能力再进阶
IT之家 11 月 5 日消息，据华为计算公众号，2026 年 11 月 4 日，月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。昇腾基于 vLLM Ascend、SGLang 同步实现 0 Day 推理适配，支持昇腾 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点以及昇腾 950 超节点系列产品进行 Kimi K3.1 Pro 的推理部署。 围绕模型新增的稀疏注意力、百万级上下文及推理服务需求，昇腾开展算子与框架协同优化，支持用户及开发者在模型发布首日开展部署与应用验证。 IT之家注意到，Kimi K3.1 Pro 是 K3.1 系列的首个模型， 拥有 2.8 万亿参数 ，原生支持视觉理解，具备百万 token 上下文窗口。模型在 K3 基础上进一步扩大后训练规模，在代码开发、3D 创作、金融研究、事实准确性和长程智能体任务等方面实现能力提升。 借助百万级上下文，模型可综合利用长篇文档、代码和多轮交互中的任务信息，结合视觉理解与工具调用完成多步骤任务，支撑软件研发、企业知识处理等复杂场景。 在计算架构上，K3.1 Pro 采用混合线性注意力，结合 KDA 线性注意力层和 DSA 稀疏注意力层。发挥这一架构的计算优势，需要对算子执行、缓存管理与跨卡通信进行协同优化。 文中提到，昇腾推理团队依托 Kimi K3 的适配经验，提前开展模型分析，协同推进模型接入、算子开发与服务验证。在已有 KDA 与 MoE 支持的基础上， 完成 K3.1 Pro 新增稀疏注意力路径与多模态推理适配 ，并同步支持推理框架的既有服务能力。 本次适配围绕核心算子优化与推理特性支持展开，覆盖历史信息筛选、稀疏注意力计算、预处理与残差计算，并结合分布式缓存和框架能力叠加，支撑长上下文推理与服务部署。 参考 vLLM Ascend 部署指导 SGLang 部署指导
- Pandaily11-03 02:06原文
