10:44
官方一手arXiv: DeepSeek@Jiayi Li, Di Wu, Qingxu Li, Hongxiao Zhao, Jiaqi Yang, Anjunyi Fan, Wenbin Zhang, Boqiang Wu, Shuting Liu, Shifeng Fang, Jianbo Dong, Dimin Niu, Bonan Yan C2C-Explorer是一个自适应贝叶斯设计空间探索框架,用于优化大语言模型云计算系统中的芯片间互连架构。该框架集成了LLM工作负载驱动的流量生成器、可扩展互连模拟器(支持交换机/全网格,最多512芯片)和指标引导评估器。模拟器经FPGA原型验证,端到端时序误差为2.46-8.23%,混合周期事件模型比纯周期精确基线加速7.8倍。在32-XPU DeepSeek-R1-671B推理工作负载上,C2C-Explorer将goodput提升44.1%,内存减少98.4%。该框架已开源。
推荐理由:做LLM集群硬件设计的朋友可以看看,这个框架能自动探索芯片间互连方案,在DeepSeek-R1上吞吐提升44%,内存省98%,还开源了。