7月8日
12:20
12:20官方账号arXiv cs.AI@Sambaran Bandyopadhyay, Ananth Muppidi
RSF-GLLM框架将可微图推理与答案生成解耦,采用GRU引导的查询更新器和动态门控机制遍历语义不相似的桥接节点。引入流稀疏正则化保证从软概率收敛到离散推理路径。在WebQSP和CWQ数据集上,RSF-GLLM取得了与基于LLM的方法竞争的性能,且推理效率更高。
推荐理由:多跳知识图谱问答一直难在中间节点没语义关联,RSF-GLLM用循环软流解决了这个瓶颈,比那些全靠LLM暴力推理的更快更准。
6月5日
12:10
12:10官方账号arXiv cs.AI@Paul Jünger, Justin Lovelace, Linxi Zhao, Dongyoung Go, Kilian Q. Weinberger
精选
离散扩散语言模型通过并行去噪生成文本,每一步会预测掩码位置的候选词,并丢弃低置信度的预测。研究者发现这些丢弃的token实际上包含有用的前瞻信号,能提前揭示关键实体,从而在输出最终确定前检索到更强证据。基于此,他们提出了SARDI(自增强检索扩散语言模型),一种无需训练、与检索器无关的动态RAG框架。在五个多跳问答基准测试中,SARDI以高达8倍的吞吐量超越了当前无需训练的扩散和自回归检索基线。
推荐理由:SARDI巧妙利用了扩散模型去噪过程中的“废料”token,为RAG提供了一种零成本的前瞻信号,做问答系统或检索增强生成的团队值得关注,可以直接集成到现有扩散模型中提升效果。