论文精选

Graph Set Transformer:融合局部与集合上下文的图集学习新架构

Graph Set Transformer

精选理由

做图神经网络或集合学习的研究者,GST解决了图集任务中局部与全局信息割裂的痛点,代码已开源,值得复现对比。

AI 摘要

Graph Set Transformer (GST) 是一种专为图集(sets of graphs)学习设计的新型神经网络架构,解决了现有方法需先用GNN编码图嵌入、导致特征提取与集合上下文建模分离的瓶颈。GST在每一层交错进行节点级特征传播和图间上下文建模,并通过门控机制融合两类信息。在合成数据集和三个真实基准(原子反应中心识别、反应产率预测、图像分类)上,GST在相同参数量下优于DeepSets、SetTransformer等基线。消融实验表明,局部与集合上下文的交错融合是性能提升的关键。

AI 翻译 · 中文

Graph Set Transformer (GST) 是一种专为图集(sets of graphs)学习设计的新型神经网络架构,解决了现有方法需先用GNN编码图嵌入、导致特征提取与集合上下文建模分离的瓶颈。GST在每一层交错进行节点级特征传播和图间上下文建模,并通过门控机制融合两类信息。在合成数据集和三个真实基准(原子反应中心识别、反应产率预测、图像分类)上,GST在相同参数量下优于DeepSets、SetTransformer等基线。消融实验表明,局部与集合上下文的交错融合是性能提升的关键。

arXiv cs.LGWe introduce the Graph Set Transformer (GST), a neural network architecture for learning on sets of graphs, designed for tasks in which per-element predictions depend on set-wide context as well as local structure. Exist