百度把千卡级超节点的上市时间从 2028 年提前到了明年,单套就能训 5 万亿参数模型,多轮对话场景首 token 延迟降了 90%。做大规模训练或长上下文推理的团队,可以把它和 Kunlun 芯片路线一起看看。
#supernode
IDC 这份报告有两个数字值得看:中国液冷服务器收入半年涨了 153.1%,但整柜交付比例只有 5.0%,北美已经是 47.4%。做数据中心规划、算力采购的人能从中看清国内超节点路线的推动逻辑,也解释了高端卡供给紧张下厂商为什么推整柜方案。
樊杰这次把华为在制药里的角色说得很直白:只卖算力和集群,1024卡超节点给药企训练模型用,模型交给深势科技这些合作伙伴。
国产GPU终于对标H200了:天垓300实机演示单卡吞吐1.05倍,还有144卡超节点和异构推理方案,搞算力的可以看看细节。
平头哥真武 V900 算力做到 M890 的三倍,配 216GB 显存和 FP4 精度,配套超节点服务器 2027 年 Q1 就来
For users needing high-performance AI infrastructure, the Ascend 960 Super Node offers a significant reduction in power consumption and improved system reliability compared to traditional setups.
The Ascend 960 super-node represents a significant advancement in AI infrastructure, potentially offering more powerful and efficient computing for AI applications compared to existing solutions.
阿里云出了个能跑 2 万亿参数的超节点,Kimi 和 Qwen 都在上面跑,想搞大模型推理的可以看看。
中国GPU大厂在WAIC上齐声表态:单芯片时代过去了,超节点+光互连才是未来。想了解下一代算力架构趋势,这篇必看。
摩尔线程把256张GPU连成一体,延迟压到亚微秒,两柜顶别人一堆。还跑通了万亿参数MoE,实打实的国产算力。
华为的昇腾 950 超节点拿了 WAIC 最高奖,1024 卡算力堆到 2 EFLOPS,直接挑战英伟达的集群方案。
华为发布了昇腾950超节点,1024卡规模,1 EFLOPS算力,专为万亿参数大模型训练设计;384超节点已商用750套,落地案例丰富,值得关注。
WAIC讨论了超节点和光互连两种突破单芯片限制的方案,对关注AI算力演进的人很有参考价值。
华为这次展出业界最大规模的Atlas 950 SuperPoD真机,单柜64卡、最高8192卡互联,专为万亿参数大模型训练打造,效率比传统集群大幅提升。