在线凸优化相关 AI 资讯 · AI 热点

7月30日

09:28

09:28

官方账号arXiv cs.LG@Vaneet Aggarwal

该论文针对重尾噪声下的非平稳在线凸优化问题，其中随机梯度仅存在有限p阶中心矩(p∈(1,2])。研究者提出HT-PAder算法，通过结合重启AdaGrad专家和路径元算法AdaGrad-Hedge实现参数无关的通用动态遗憾。HT-PAder在直径D、Lipschitz常数G、噪声水平σ和比较器路径长度P_T下达到期望遗憾界Õ(GD√(T(1+P_T/D)) + σD T^{1/p}(1+P_T/D)^{(p-1)/p})，无需任何先验参数知识。即使p=2时，这也是首个无参数极小极大通用动态遗憾保证，并证明了匹配的下界。

论文 HT-PAder AdaGrad 在线凸优化

推荐理由：这篇论文提出了HT-PAder算法，不用提前知道任何参数就能在重尾噪声下做动态优化，比以往方法更通用，理论结果也很强。

7月14日

09:15

09:15

官方账号arXiv cs.LG@Haricharan Balasundaram, Karthick Krishna Mahendran, Rahul Vaze

本文针对约束在线凸优化(COCO)问题中的OGD+Projection算法，首次证明其累积约束违反(CCV)的下界为Ω(T^{(d-1)/(2d)})，其中d为维度。已有研究表明该算法在d=2时可达O(T^{1/3})的CCV，对任意d可达O(√T)的CCV。本文的下界结果填补了理论空白，揭示了算法在高维场景下的性能极限。该结论基于Sarkar和Sinha(2026)及Balasundaram等人(2026)的前序工作。

论文 OGD+Projection COCO 在线凸优化

推荐理由：这篇理论论文首次给出了OGD+Projection算法在高维约束优化中违反约束的下界，搞在线凸优化的人可以看看。

6月15日

11:10

11:10

官方账号arXiv cs.LG@Anthony Pineci, Yunzong Xu

该论文提出一种隐藏目标学习方法用于在线库存优化（OIO），其中基础学习器使用在线梯度下降（OGD）。该方法将已知的遗憾保证从对公共需求概率的逆依赖提升为逆平方根依赖，并证明了匹配下界。对于强凸损失，该方法首次给出poly对数遗憾保证；对于一般凸集，该方法实现了第一个适应欧几里得路径变化的动态遗憾保证。实验在合成和真实库存数据上验证了理论结果。

论文 OIO 在线梯度下降库存优化

推荐理由：用隐藏目标解决库存优化，有理论保证

5月21日

10:22

10:22

官方账号arXiv cs.LG@Dhruv Sarkar, Abhishek Sinha

精选

本文针对对抗性约束下的在线凸优化（COCO）问题，提出了一种基于投影的简单算法。对于强凸损失，该算法同时实现了 O(log T) 的遗憾和 O(log T) 的累积约束违反（CCV），相比此前最优的 O(√T log T) CCV 实现了指数级改进。对于凸损失，算法将 CCV 从 O(√T log T) 降至 O(√T)，同时保持最优 O(√T) 遗憾。关键创新在于利用自收缩曲线的几何结果，该技术可能具有独立研究价值。

论文在线凸优化约束优化自收缩性

推荐理由：约束在线优化是机器学习中的核心问题，这篇论文用简洁的投影算法大幅降低了累积约束违反，做在线学习或凸优化理论的研究者值得关注，其自收缩性技巧可能启发更多改进。