精选理由
Kimi 新模型K3 参数2.8万亿，896个专家，算力效率拉高2.5倍，技术细节很扎实。
Kimi K3 是一个拥有2.8万亿参数的混合专家（MoE）模型，包含896个专家，每次推理激活16个。通过三处架构改动，其训练算力效率提升至原来的2.5倍。训练过程使用了5122万个沙箱资源。
原文 · 小互
Kimi K3 技术报告解读 2.8 万亿参数，靠三处架构改动把算力效率提到 2.5 倍 K3 MoE（混合专家）数量高达 896 个，每次激活 16 个，训练用掉 5122 万个沙箱... ...
Kimi K3 技术报告解读 2.8 万亿参数，靠三处架构改动把算力效率提到 2.5 倍 K3 MoE（混合专家）数量高达 896 个，每次激活 16 个，训练用掉 5122 万个沙箱... best.xiaohu.ai/article/kimi-k… 💬 1 🔄 0 ❤️ 1 👀 175 📊 1 ⚡