AITOP

GPU通信

共 2 条相关 AI 资讯
6月3日
14:51
14:51官方一手pandaily@contact@pandaily.com (Pandaily)
精选
随着AI智能体和大型语言模型推动数据中心流量爆炸式增长，GPU之间的通信链路成为关键瓶颈。在当代AI集群中，GPU等待数据的时间往往超过实际计算时间。Co-Packaged Optics（共封装光学）技术通过将光学引擎与交换芯片直接集成，有望大幅降低功耗、提升带宽密度并缩短延迟。该技术被视为AI数据中心互连架构的下一代骨干，预计将在2026年6月左右迎来商业化部署。
行业Co-Packaged OpticsAI数据中心互连技术GPU通信光互连
推荐理由：GPU算力被通信瓶颈浪费是AI集群的普遍痛点，CPO技术直接解决功耗和延迟问题，做大规模训练或推理部署的团队值得关注这一即将落地的架构变革。
原文
5月29日
16:43