AITOP

GB300 NVL72

共 3 条相关 AI 资讯
8月5日
02:48
02:48官方一手marktechpost@Asif Razzaq
Cursor Research开源了MoK，这是支撑Composer模型的MoE训练内核。MoK将专家混合的全部通信与计算融合进单个确定性内核。在GB300 NVL72机架上，MoK比最强公开基线快2.37倍。它需要Blackwell SM100或SM103 GPU，没有NVL72算力的用户无法使用。
AI模型MoKCursorMoE
事件专题
推荐理由：Cursor把训练内核MoK开源了，在GB300 NVL72上比最强公开基线快2.37倍，但得先有NVL72机器才能跑。
原文
6月13日
13:11
09:55
09:55rohanpaul_ai@rohanpaul_ai
精选73°
NVIDIA 发布了首个智能体 AI 基准测试 AgentPerf 的结果。该基准由 Artificial Analysis 推出，测试系统在保持响应性的同时能并发运行多少个智能体。GB300 NVL72 在最低服务层级达到每兆瓦 61.4K 并发智能体，而 H200 仅为 2.6K，性能提升约 23.6 倍。测试模拟了真实编码智能体路径，涵盖 12 种以上编程语言，请求长度从 5K 到 131K token 不等，平均约 27K token。性能提升得益于 72 块 GPU 通过 NVLink 组成机架级系统，以及优化 MoE 专家分配、通信与计算重叠等软件技术。
AI模型NVIDIAGB300 NVL72H200
事件专题
推荐理由：NVIDIA 首个智能体基准，GB300 比 H200 强 23 倍
原文