AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：加速×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月1日
10:26
10:26arXiv cs.LG@Daria Fomina, Daniil Krasylnikov, Alexey Boykov, Andrey Dolgovyazov, Vyacheslav Zhdanovskiy, Fedor Velikonivtsev
图神经网络（GNN）因稀疏、不规则的内存访问而性能受限。该研究从 I/O 和计算强度角度出发，将常用 GNN 层分为三类（SpMM 卷积、归约聚合、注意力层），并为每类开发了减少数据移动、提升局部性的 GPU 内核。实验显示，融合注意力内核在 Graph Transformer 上最高提速 3.9 倍（中位数 1.6 倍），GATv2 最高提速 8.5 倍（中位数 2.0 倍），峰值内存降低最多 76 倍。研究还发现图重排序对邻居并行内核更有效。所有实现作为即插即用替代方案开源，便于复现。
论文GNNGPU 内核I/O 优化图神经网络加速
推荐理由：做图神经网络训练或推理的开发者，可以直接用这些内核替换现有层，无需改模型结构就能获得数倍加速和大幅内存节省，值得一试。
原文
5月19日
14:30
14:30arXiv cs.AI@Stephen Mell, David Mell, Konstantinos Kallas, Steve Zdancewic, Osbert Bastani
精选
复合AI应用（如用Python调用多个ML模型）的端到端延迟成为瓶颈，传统编译器无法优化外部组件调用。PopPy系统通过结合编译时分析和运行时调度，自动识别并并行化Python中调用外部组件的代码段。它解决了Python语言复杂性、动态分发和变量突变三大挑战，在真实复合AI应用中实现最高6.4倍加速。开发者只需少量标注即可获得并行化收益，且保持程序语义不变。
论文复合AI应用并行计算Python优化系统/工具加速
推荐理由：复合AI应用开发者终于有了一个无需重写代码就能加速的工具——PopPy自动找出并行机会，做多模型编排或自动化管道的团队值得一试。
原文