产品多源确认精选

DeepSeek开源昇腾算力平台基础设施组件

DeepSeek 开源面向华为昇腾算力平台的基础设施组件

精选理由

DeepSeek开源了适配华为昇腾平台的TileLang工具链,比CUDA更简单高效,已用于V4模型训练。

DeepSeek今日开源面向华为昇腾算力平台的基础设施组件,包括TileLang高级语言编译工具、计算库和分布式通信库。TileLang编程比CUDA更简单,已在DeepSeek V4系列模型训练中实现大部分算子。开源组件包括DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect,在多项测试中性能接近硬件上限。

原文 · IT之家

DeepSeek 开源面向华为昇腾算力平台的基础设施组件

IT之家 9 月 30 日消息,DeepSeek 今天(30 日)上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库 。所有组件与此前面向英伟达平台的开源组件一一对应。 根据介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。相对于其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。TileLang 路线首先在英伟达成熟平台上得到了验证, 目前已承载 DeepSeek V4 系列模型训练中大部分算子的实现 ,是探索 AGI 新范式、开发高性能算子的核心工具。 本次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行封装、提供高级语言的编程方式、同时 不损失硬件性能 。目前,DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。 本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力: DeepGEMM 加速通用矩阵运算; DeepEP 提供高效的大规模跨设备通信; TileKernels 提供数据处理所需的常规向量计算和访存算子; FlashMLA 提供稀疏注意力算子,提升长上下文处理效率; DeepSelect 则实现了高效的数据筛选。 在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。 IT之家汇总开源项目链接: TileLang: https://github.com/tile-ai/tilelang DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend TileKernels: https://github.com/deepseek-ai/TileKernels FlashMLA: https://github.com/deepseek-ai/FlashMLA DeepSelect: https://github.com/deepseek-ai/DeepSelect