阿里云灵骏真武M890超节点实例适配月之暗面Kimi K3大模型

阿里云宣布灵骏真武M890超节点实例成功适配月之暗面2.8万亿参数大模型Kimi K3。Kimi K3采用MoE架构，基于平头哥真武M890训推一体AI芯片，64张M890通过ICN Switch 1.0实现800GB/s All-to-All高速互联，显存规模达9TB。联合优化使万亿级MoE模型EP专家并行通信流量运行在单一高带宽域内，提升推理效率。T-Head SAIL软件栈让Mooncake推理框架即开即跑，Triton支持减少自定义算子重写工作量。