DeepGEMM

general · First seen 2026-05-22 · Last seen 2026-10-20 · 23 mentions

Overview

DeepGEMM 是 DeepSeek(深度求索)开源的高性能矩阵乘法库,面向大模型训练与推理中的通用矩阵乘法(GEMM)运算,针对 FP8 等低精度场景做了深度优化。凭借简洁的实现和接近硬件理论上限的执行效率,它被视为 DeepSeek 开源基础设施体系中的核心算子组件之一。

DeepGEMM 近期进展

  • 六款昇腾项目一次性开源:DeepSeek 近期将 DeepGEMM、TileLang、DeepEP 等六款华为昇腾项目开源,使原本面向英伟达 GPU 的算子与通信组件得以运行在国产算力平台上,被外界视为国产 AI 芯片软件生态的重要补充。DeepSeek开源TileLang等华为昇腾版本
  • 覆盖基础设施多个层级:此次开源横跨计算算子、通信库与超节点调度工具,其中 DeepGEMM-Ascend 被作为独立加速工具单独提及,说明矩阵乘法这一最底层算子被优先适配到昇腾平台。DeepSeek开源昇腾算力平台基础设施组件
  • 主仓库持续活跃:DeepGEMM 最初在 GitHub 开源时即受到广泛关注,其仓库提交活动频繁,社区维护处于活跃状态。DeepSeek 开源 DeepGEMM:高性能矩阵乘法库
  • DeepGEMM 当前焦点与观察点

    矩阵乘法效率直接决定大模型的训练成本,DeepGEMM 移植到昇腾,相当于让国产芯片接受核心算子实现水准的检验。后续值得关注的观察点包括:昇腾版本与原版之间的性能差距有多大、这批组件能否帮助昇腾形成完整的底层工具链,以及社区是否会围绕移植版本形成持续贡献。对使用国产算力的团队而言,此类底层库的成熟度正在成为技术选型的关键参考。

    Coverage

    10 on file