AITOP

5月14日

01:10

DeepSeek: GitHub 新仓库（资讯）

75

DeepSeek 开源了 DeepEP，这是首个专为 MoE（混合专家）模型设计的专家并行（EP）通信库。它提供了高吞吐、低延迟的 GPU 内核，支持训练和推理中的全到全通信。DeepEP 还支持低精度操作，如 FP8，并引入了高效的稀疏通信技术。该库已开源在 GitHub 上，开发者可以访问其 Pull Requests 页面了解更多。

AI模型 DeepSeek MoE EP通信库开源/仓库分布式训练

推荐理由：MoE 模型的通信瓶颈一直是训练和推理的痛点，DeepEP 专为此优化，做大规模分布式训练的团队值得关注。

5月13日

21:35

DeepSeek: GitHub 新仓库（资讯）

0

DeepSeek 发布了 DeepEP，这是一个专为 MoE（混合专家）模型设计的高效通信库，旨在优化专家并行场景下的 GPU 通信效率。它支持低延迟推理和高吞吐量训练，并提供了节点内和节点间的通信优化。该库还引入了低精度操作和 FP8 调度，进一步提升了性能。对于使用 MoE 架构的团队，DeepEP 可以直接集成到现有框架中，显著减少通信开销。

AI模型 MoE 通信库 DeepSeek 开源/仓库 GPU优化

推荐理由：MoE 模型的通信瓶颈是训练和推理的常见痛点，DeepEP 直接解决了这个问题。做大规模 MoE 训练或推理的团队，值得集成试试。

21:35

DeepSeek: GitHub 新仓库（资讯）

70

DeepSeek 开源了 FlashMLA，一个专为英伟达 Hopper GPU 优化的高效 MLA 解码内核。它针对可变长度序列进行了优化，已在生产中部署。该项目支持 BF16 精度，分页和块大小 64 的块大小，并提供预填充和分页预填充内核。FlashMLA 通过优化内存访问和计算，显著提升了推理性能。开发者可以直接在 GitHub 上获取代码和文档。

AI模型 DeepSeek FlashMLA 开源/仓库推理优化 Hopper GPU

推荐理由：DeepSeek 开源 FlashMLA 解决了大模型推理中 MLA 解码的性能瓶颈，做推理优化和模型部署的开发者可以直接拿来用，值得一试。

21:35

DeepSeek: GitHub 新仓库（资讯）

70

DeepSeek 官方在 GitHub 上发布了 awesome-deepseek-agent 仓库，汇集了基于 DeepSeek 模型构建智能体的最佳实践、工具和示例。该资源库旨在帮助开发者快速上手使用 DeepSeek 模型开发 AI 智能体，包括 API 调用、提示词工程、工具集成等关键内容。对于希望利用 DeepSeek 模型构建生产级智能体应用的开发者来说，这是一个一站式的参考资源。

AI产品智能体 DeepSeek 开源/仓库最佳实践开发者工具

推荐理由：DeepSeek 官方整理的智能体开发资源库，做 AI 智能体的开发者可以直接拿来参考，省去自己摸索的时间。