AITOPAI热报

DeepSeek-V3

general · First seen 2026-05-22 · Last seen 2026-10-23 · 238 mentions

Overview

DeepSeek-V3 是杭州深度求索（DeepSeek）公司于 2024 年底发布并持续迭代的开源大语言模型，采用混合专家（MoE）架构，因较低的训练成本和可自由下载的权重，成为学术界与开源社区对比、复现和二次研究的重要基线模型之一。

DeepSeek-V3 近期进展

  • 十款大模型幻觉与事实可靠性横评：Perplexity 与 DeepSeek V3 准确率最高：一项覆盖十款大模型的幻觉与事实可靠性横评中，DeepSeek V3 与 Perplexity 的准确率并列最高。这类评测对用户选择模型有直接参考价值，也说明该模型在事实性维度上仍处于第一梯队。
  • Beam 被指是 DeepSeek V3 的等算力复现：23B 参数 × 23.8T tokens：社区账号 Teortaxes 指出，Beam 模型以 23B 激活参数、23.8T tokens 的训练量，被认为是 DeepSeek V3 的等算力复现。如果属实，这进一步佐证了该模型训练配方在同等算力下的可复现性。
  • Primus Projection：单机仿真加自动调优，替代千卡分布式训练试错：Primus Projection 提出通过单机仿真与自动调优来替代千卡规模的分布式训练试错。这类训练效率研究延续了 DeepSeek-V3 以极低成本完成大规模训练的工程思路。
  • BRANCH-MoE 提出树状路由结构，改进 MoE 专家负载均衡：BRANCH-MoE 引入树状路由结构，改进 MoE 专家的负载均衡问题。MoE 路由与负载均衡正是 DeepSeek-V3 架构的核心组件，后续研究正在这一方向上持续打磨。

    • 当前焦点与观察点

    目前围绕 DeepSeek-V3 的讨论主要集中在三条线上：其一是可靠性评测，多项独立横评显示它在幻觉控制上表现靠前，但具体结果仍依赖评测集与方法论；其二是开源复现与算力效率，等算力复现的说法若被验证，会强化其训练配方作为公开参考的地位；其三是架构层面的后续改进，包括 MoE 路由、稀疏注意力（如 LatentIndex 的跨层共享索引）和分布式通信优化（如 NVIDIA 的 NCCL M2N 原语）等，都在直接或间接触及 DeepSeek-V3 所确立的技术路线。

    值得关注的是，随着推理模型和更新的版本逐步接管前沿话题，DeepSeek-V3 的角色正从"最新模型"转变为广泛被引用的基础基线：论文里它常作为评测对象或架构出发点出现，社区则持续用它的训练规模和成本作为衡量其他方案效率的参照系。对研究者而言，其开源权重与详细技术报告仍是研究 MoE 训练与低成本大规模预训练的重要资料。

    Coverage

    10 on file