12:07
官方账号arXiv cs.LG@Yordan Raykov, Rodrigo Veiga
推荐理由：这篇把GFlowNets训练用信息几何重新梳理了，用Fisher-Rao度量做自然梯度，还给了三种能实际算的场景，图模型工具也用上了，搞生成流网络的可以看。
自然梯度
共 1 条相关 AI 资讯
8月5日
12:07
生成流网络（GFlowNets）是面向离散及混合离散-连续对象的摊销推断框架，其训练仅需一个未归一化的奖励函数。本文将GFlowNets的前向策略视为轨迹采样器，证明其内在一阶几何由Fisher-Rao度量给出，并采用自然梯度作为局部更新方向。论文推导出轨迹Fisher信息矩阵的逐条件二阶矩分解，揭示时间分数交互何时消失、共享参数化下何时产生稠密耦合。据此划分出三种计算模式：精确Fisher信息可解、可用蒙特卡洛估计、以及可利用目标局部性或分解结构的情形。对第三种情形，论文用图模型工具（如精确边缘化、分隔符方法、置信传播）近似自然梯度更新，将目标结构转化为优化几何。