AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：I/O 优化×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月1日
10:26
10:26arXiv cs.LG@Daria Fomina, Daniil Krasylnikov, Alexey Boykov, Andrey Dolgovyazov, Vyacheslav Zhdanovskiy, Fedor Velikonivtsev
图神经网络（GNN）因稀疏、不规则的内存访问而性能受限。该研究从 I/O 和计算强度角度出发，将常用 GNN 层分为三类（SpMM 卷积、归约聚合、注意力层），并为每类开发了减少数据移动、提升局部性的 GPU 内核。实验显示，融合注意力内核在 Graph Transformer 上最高提速 3.9 倍（中位数 1.6 倍），GATv2 最高提速 8.5 倍（中位数 2.0 倍），峰值内存降低最多 76 倍。研究还发现图重排序对邻居并行内核更有效。所有实现作为即插即用替代方案开源，便于复现。
论文GNNGPU 内核I/O 优化图神经网络加速
推荐理由：做图神经网络训练或推理的开发者，可以直接用这些内核替换现有层，无需改模型结构就能获得数倍加速和大幅内存节省，值得一试。
原文