Residuals，即残差，在深度学习中通常指残差连接（skip connection），是缓解深层网络梯度消失的关键机制，也是现代大规模模型（如Transformer）的基础架构组件。近期，2.8万亿参数的开源模型Kimi K3发布，其采用的百万上下文和原生多模态能力，暗示了残差结构在超大参数规模下的持续有效性。以下围绕Kimi K3的报道，虽未直接提及残差，但可从中观察残差设计在超大模型中的隐性支撑作用。
№residuals·general
Residuals
别名
- 首次出现
- 2026-06-02
- 最近出现
- 2026-07-23
- 累计提及
- 26
§ 01综述
§ 02相关报道10 条在档
- 01Kimi K3发布：2.8万亿参数、百万上下文多模态模型
- 02Kimi K3 内部跑分三战全胜，超 Opus 4.8 和 GPT-5.5
- 03Kimi K3 引入 KDA 和 AttnRes 架构，MoE 稀疏性扩大
- 04Kimi K3发布：2.8万亿参数、100万上下文、原生多模态模型
- 05Moonshot AI 发布 Kimi K3：2.8万亿参数开源MoE模型，支持1M上下文
- 06Kimi K3发布：2.8万亿参数开源模型，百万上下文多模态
- 07Kimi K3在Text Arena排名第9，超越Kimi K2.6
- 08Moonshot发布Kimi K3：2.8万亿参数、百万上下文、原生多模态
- 09Kimi K3正式发布：2.8万亿参数，百万上下文，原生多模态
- 10Kimi.ai 发布 Kimi K3：2.8万亿参数开源模型，百万上下文
§ 03邻近话题