12:05arXiv cs.LG@Yi Huang, Qingyun Sun, Jia Li, Xingcheng Fu, Jianxin Li精选关系深度学习(RDL)通过将关系数据库建模为图并应用图神经网络(GNN)进行端到端学习,但现有方法多依赖固定图结构,限制了表达能力。本文提出FROG框架,将关系结构学习转化为可学习的表角色建模问题,允许表作为节点和边参与消息传递,并设计角色驱动消息传递机制以捕捉关系语义。FROG还引入函数依赖约束,确保表与实体级别的表示一致性。实验表明,FROG在多个任务上超越现有方法,并揭示了表角色对下游任务的影响,为RDL的图构建提供了新见解。论文关系深度学习图神经网络图结构学习关系数据库FROG推荐理由:FROG解决了RDL中固定图结构无法优化的问题,做关系数据库和图神经网络结合的研究者可以直接用这个框架提升模型效果,值得深入阅读。原文
11:43arXiv cs.LG(学术论文)本文提出GraphDPO,一种基于有向无环偏好图的直接偏好优化方法,用于语言模型对齐。传统DPO仅利用成对比较,忽略了多轮生成数据中的传递性和结构信息,导致冲突和优化不稳定。GraphDPO通过图结构的Plackett-Luce目标函数聚合邻域监督,强制传递性,并保持线性复杂度。实验表明,在推理和程序合成任务中,GraphDPO优于成对和列表式对齐方法,是一种可扩展且鲁棒的替代方案。论文偏好优化DPO图结构学习语言模型对齐推荐理由:该研究从图论视角重新审视偏好对齐,解决了DPO在多响应数据上的局限性,对提升模型训练效率和稳定性具有实际指导意义。原文