Nvidia 发布光子共封装光学交换机视频,降低 AI 数据中心功耗

Nvidia released this video of its photonics co-pac…

精选理由

Nvidia 的 CPO 技术直接解决了 AI 数据中心网络功耗和故障率两大痛点,做大规模 GPU 集群部署的团队值得关注,能显著降低运营成本。

AI 摘要

Nvidia 发布了一段关于其光子共封装光学(CPO)交换机的视频,展示了 Lambda 技术。CPO 将光通信组件直接集成到网络芯片附近,取代了传统的可插拔模块,从而大幅降低功耗并减少故障点。在 128,000 GPU 的数据中心中,传统方案需要约 655,000 个可插拔收发器模块,而 CPO 彻底消除了这一组件类别。对于智能体工作负载,CPO 能提供弹性、高效的数据传输,避免 GPU 等待数据,提升推理效率。

AI 翻译 · 中文

Nvidia 发布了一段关于其光子共封装光学(CPO)交换机的视频,展示了 Lambda 技术。CPO 将光通信组件直接集成到网络芯片附近,取代了传统的可插拔模块,从而大幅降低功耗并减少故障点。在 128,000 GPU 的数据中心中,传统方案需要约 655,000 个可插拔收发器模块,而 CPO 彻底消除了这一组件类别。对于智能体工作负载,CPO 能提供弹性、高效的数据传输,避免 GPU 等待数据,提升推理效率。

rohanpaul_aiNvidia released this video of its photonics co-packaged optics (CPO) switch with Lambda. The AI race is not only about stronger GPUs, but about wasting far less power while those GPUs talk to each other. With co-packaged