AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

GFlowNets

共 1 条相关 AI 资讯
8月5日
12:07
12:07官方账号arXiv cs.LG@Yordan Raykov, Rodrigo Veiga
生成流网络(GFlowNets)是面向离散及混合离散-连续对象的摊销推断框架,其训练仅需一个未归一化的奖励函数。本文将GFlowNets的前向策略视为轨迹采样器,证明其内在一阶几何由Fisher-Rao度量给出,并采用自然梯度作为局部更新方向。论文推导出轨迹Fisher信息矩阵的逐条件二阶矩分解,揭示时间分数交互何时消失、共享参数化下何时产生稠密耦合。据此划分出三种计算模式:精确Fisher信息可解、可用蒙特卡洛估计、以及可利用目标局部性或分解结构的情形。对第三种情形,论文用图模型工具(如精确边缘化、分隔符方法、置信传播)近似自然梯度更新,将目标结构转化为优化几何。
论文GFlowNets信息几何自然梯度

推荐理由:这篇把GFlowNets训练用信息几何重新梳理了,用Fisher-Rao度量做自然梯度,还给了三种能实际算的场景,图模型工具也用上了,搞生成流网络的可以看。
原文
精选全部日报登录