11:41arXiv cs.LG@Oleg Platonov, Gleb Bazhenov, Dmitry Eremeev, Liudmila Prokhorenkova该研究对9种最新的图基础模型(GFM)在节点属性预测任务上进行了重新评估,并与强基线图神经网络(GNN)比较。只有基于Prior-data Fitted Networks范式的最新型GFM在预测性能上超越调优后的GNN,但推理成本更高。不同论文因评测设置差异导致结果难以直接对比,本研究提供了统一的公平比较框架。论文图基础模型Graph Foundation Models节点属性预测Prior-data Fitted NetworksGNN推荐理由:这篇论文帮你打破了GNN和GFM的迷雾:实测9个模型,发现只有Prior-data Fitted Networks那类才真能打,但代价是推理更慢。想搞清楚哪些图模型值得用就看它。原文
10:26arXiv cs.LG@Daria Fomina, Daniil Krasylnikov, Alexey Boykov, Andrey Dolgovyazov, Vyacheslav Zhdanovskiy, Fedor Velikonivtsev图神经网络(GNN)因稀疏、不规则的内存访问而性能受限。该研究从 I/O 和计算强度角度出发,将常用 GNN 层分为三类(SpMM 卷积、归约聚合、注意力层),并为每类开发了减少数据移动、提升局部性的 GPU 内核。实验显示,融合注意力内核在 Graph Transformer 上最高提速 3.9 倍(中位数 1.6 倍),GATv2 最高提速 8.5 倍(中位数 2.0 倍),峰值内存降低最多 76 倍。研究还发现图重排序对邻居并行内核更有效。所有实现作为即插即用替代方案开源,便于复现。论文GNNGPU 内核I/O 优化图神经网络加速推荐理由:做图神经网络训练或推理的开发者,可以直接用这些内核替换现有层,无需改模型结构就能获得数倍加速和大幅内存节省,值得一试。原文
09:51arXiv cs.AI@Lukas Schelenz, Shobha Rajanna, Denis Gosalci, Lucas Heublein, Jonas Pirkl, Jonathan Ott, Felix Ott, Christopher Mutschler, Tobias Feigl精选该论文研究了在信号处理管道中预测动态运动(如NBA球员轨迹)的挑战,传统方法如ARIMA和卡尔曼滤波难以处理非线性动态。机器学习方法如LSTM、GNN和Transformer提供了更高灵活性,但常未能显式捕捉时间依赖与上下文交互。实验表明,混合LSTM结合上下文信息在2秒预测范围内实现了最低最终位移误差1.51米,优于TCNN、GAT和Transformer,且所需数据和训练时间更少。研究强调没有单一架构在所有指标上最优,需根据任务选择模型。论文轨迹预测LSTMGNNTransformerNBA推荐理由:做运动轨迹预测或动态系统建模的团队,这篇论文对比了主流模型的实际表现,混合LSTM方案在效率和精度上都有亮点,值得参考。原文