主要来源arXiv: DeepSeek
查看原文事件专题 ·官方一手
DeepSeek-V4-Flash残差流使用机制研究
研究分析了DeepSeek-V4-Flash的四流残差通路特性。有效流计数显示典型注意力或FFN站点仅使用约两个流；残差混合主要发生在前22层，22-42层各流基本独立传输。干预实验表明，替换晚期混合器仅增加C4困惑度1.9%，而替换早期混合器增加41%；保留每站点三个最大路由权重最多增加困惑度2.7%。
当前结论
DeepSeek团队揭秘四流残差通路实际使用方式，发现模型并未充分利用全部流容量。
4 个信源58° AI 热度最后更新 2026/9/4 16:02:20
证据链
4 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。