14:51pandaily@contact@pandaily.com (Pandaily)精选随着AI智能体和大型语言模型推动数据中心流量爆炸式增长,GPU之间的通信链路成为关键瓶颈。在当代AI集群中,GPU等待数据的时间往往超过实际计算时间。Co-Packaged Optics(共封装光学)技术通过将光学引擎与交换芯片直接集成,有望大幅降低功耗、提升带宽密度并缩短延迟。该技术被视为AI数据中心互连架构的下一代骨干,预计将在2026年6月左右迎来商业化部署。行业Co-Packaged OpticsAI数据中心互连技术GPU通信光互连推荐理由:GPU算力被通信瓶颈浪费是AI集群的普遍痛点,CPO技术直接解决功耗和延迟问题,做大规模训练或推理部署的团队值得关注这一即将落地的架构变革。原文
16:43marktechpost@Asif Razzaq精选UC Berkeley的UCCL团队发布mKernel,这是一个将节点内NVLink、节点间RDMA和密集计算融合成单个持久CUDA内核的库。它旨在提升多GPU多节点环境下的通信效率。通过消除内核启动和内存拷贝开销,mKernel在典型训练工作负载中可显著降低延迟。该库开源,支持NVIDIA GPU集群。AI产品mKernelUCCLNVLinkRDMAGPU通信5 个信源在谈推荐理由:UC Berkeley的GPU通信新库原文