Moonshot AI 发布 Kimi K3：2.8万亿参数开源MoE模型，支持1M上下文

2026年7月16日，Moonshot AI 发布了 Kimi K3 模型，参数规模达2.8万亿。该模型采用 MoE 架构，包含896个专家，每次推理激活其中16个。Kimi K3 引入了 Kimi Delta Attention 和 Attention Residuals 机制，支持100万token的上下文窗口。模型以开源形式发布。