AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

条件梯度方法

共 1 条相关 AI 资讯
7月29日
10:00
10:00官方账号arXiv cs.LG@Zhaojun Peng
精选
该论文提出MC-ALFCG,一种结合动量条件梯度与耦合截断多级蒙特卡洛估计的方法,用于处理固定遍历马尔可夫链单轨迹梯度采样下的非凸复合优化。在正中心噪声下,期望样本复杂度为Õ(τ_mix²G_σ ε⁻³ + τ_mix^(5/2) G_σ² ε⁻³ + τ_mix⁵ ε⁻²),其中τ_mix为混合时间。精确无噪声版本达到Õ(ε⁻²)的复杂度且常数与混合时间无关。数值实验验证了参数灵敏度和剪枝行为。
论文MC-ALFCG条件梯度方法方差缩减

推荐理由:这篇论文搞了个新方法MC-ALFCG,专门对付马尔可夫链采样下的非凸优化,理论复杂度给得很细,数值实验也做了,搞优化算法的可以看看。
原文
精选全部日报登录