12:05官方账号arXiv cs.LG@Shashwat Kumar, Arafat Rahman, Anuj Srivastava, P. -A. Absil该论文研究定义在单纯形乘积空间上的优化问题,涵盖低秩离散多变量概率分布学习和基于SRVF的函数数据配准。作者提出用逐元素严格凸的光滑重参数化替代乘积单纯形,将约束优化转化为流形上的无约束优化。该重参数化使流形上的二阶KKT点映射到乘积单纯形上的弱二阶KKT点。基于此提出的黎曼梯度下降(RGD)算法优于投影梯度下降(PGD),并在曲线配准中更忠实保留函数形状。论文张量分解函数配准黎曼优化推荐理由:这篇论文提出用光滑重参数化把单纯形约束变成无约束,黎曼梯度下降比投影梯度下降更好,做张量分解和函数配准更靠谱。原文稍后读已读值得跟进有用关注 张量分解
10:15官方账号arXiv cs.LG@Shuang Li, Zhihui Zhu, Qiuwei Li该论文分析了Bregman ADMM在非凸线性约束问题上的收敛性,采用两侧相对光滑性假设替代标准Lipschitz梯度条件。该方法适用于矩阵和张量模型中的多项式目标,全局Lipschitz梯度常数可能不存在。论文证明,在不变开状态空间域上,Bregman ADMM的一步迭代定义了光滑原始-对偶不动点映射,其严格鞍点KKT点是不稳定不动点,因此从随机初始化出发以概率零收敛到严格鞍点。结合已有的一阶收敛结果,这给出了极限KKT点几乎必然二阶平稳性。数值实验在分布式矩阵分解和对称张量分解上验证了理论。论文Bregman ADMMKKT优化算法推荐理由:这篇论文证明了Bregman ADMM在非凸非Lipschitz优化中几乎必然收敛到二阶KKT点,解决了传统方法无法处理多项式目标的问题,对矩阵分解等应用有实际指导意义。原文稍后读已读值得跟进有用关注 Bregman ADMM