精选理由
Nvidia 的 CPO 技术直接解决了 AI 数据中心网络功耗和故障率两大痛点,做大规模 GPU 集群部署的团队值得关注,能显著降低运营成本。
Nvidia 发布了一段关于其光子共封装光学(CPO)交换机的视频,展示了 Lambda 技术。CPO 将光通信组件直接集成到网络芯片附近,取代了传统的可插拔模块,从而大幅降低功耗并减少故障点。在 128,000 GPU 的数据中心中,传统方案需要约 655,000 个可插拔收发器模块,而 CPO 彻底消除了这一组件类别。对于智能体工作负载,CPO 能提供弹性、高效的数据传输,避免 GPU 等待数据,提升推理效率。
AI 翻译 · 中文
Nvidia 发布了一段关于其光子共封装光学(CPO)交换机的视频,展示了 Lambda 技术。CPO 将光通信组件直接集成到网络芯片附近,取代了传统的可插拔模块,从而大幅降低功耗并减少故障点。在 128,000 GPU 的数据中心中,传统方案需要约 655,000 个可插拔收发器模块,而 CPO 彻底消除了这一组件类别。对于智能体工作负载,CPO 能提供弹性、高效的数据传输,避免 GPU 等待数据,提升推理效率。
Nvidia released this video of its photonics co-packaged optics (CPO) switch with Lambda. The AI race is not only about stronger GPUs, but about wasting far less power while those GPUs talk to each other. With co-packaged…