11:10arXiv cs.LG@Jin Guo, Roy Y. He, Jean-Michel Morel本文提出了机器学习中二阶路径核插值公式,扩展了Pedro Domingos在2020年提出的一阶插值公式。该公式将模型预测表示为沿优化路径的积分,其中包含数据依赖的核函数。二阶形式补充了曲率加权的插值项,对于随机梯度下降,还出现了与mini-batch梯度噪声协方差耦合的采样诱导分量。研究还扩展到带动量的随机梯度下降,并给出了终端预测的浓度估计。这些结果细化了神经网络预测的路径核解释,为理解训练数据如何塑造模型预测提供了更精确的理论框架。论文路径核插值二阶公式随机梯度下降神经网络预测机器学习理论推荐理由:这篇论文为理解神经网络预测提供了更精确的理论工具,做机器学习理论或模型可解释性研究的开发者值得关注,能帮你更深入理解训练数据的影响机制。原文
21:35Google Research: Blog(资讯)Google Research 发布了关于算法与理论的最新博客文章,涵盖算法设计、理论计算机科学和机器学习理论的前沿进展。文章探讨了如何通过理论创新提升实际系统效率,并展示了在近似算法、在线算法和数据结构方面的突破。这些研究对优化搜索引擎、推荐系统和云计算资源调度有直接影响。理论成果已部分应用于 Google 产品,如搜索排序和广告投放。论文算法理论计算机科学机器学习理论Google Research系统优化推荐理由:算法研究者或系统优化工程师可以从中获取理论到实践的转化思路,建议关注具体技术细节。原文
19:12arXiv cs.LG@Leonardo N. Coregliano, William Opich精选近期一系列研究开始探索乘积空间上学习理论概念的变体,统称为高元学习理论。本文提出高元样本压缩方案的概念,并证明存在非平凡质量的高元样本压缩方案意味着高元PAC可学习性。该工作将经典样本压缩理论扩展到高元场景,为理解复杂数据结构下的学习能力提供了新视角。研究结果建立了高元压缩与可学习性之间的理论桥梁,对机器学习理论有基础性贡献。论文高元学习理论样本压缩PAC可学习性乘积空间机器学习理论推荐理由:理论机器学习研究者会感兴趣——这项研究把样本压缩理论推到了高元空间,证明了压缩方案与PAC可学习性的新联系,做学习理论或高维数据分析的值得关注。原文
11:42arXiv cs.LG(学术论文)该论文研究了高斯分布下非负L1逼近多项式的存在性。非负L1逼近多项式要求多项式在逼近指示函数时保持非负性,比标准L1逼近更强,但比夹逼多项式更弱。作者证明:任何高斯表面积为Γ的标准高斯集类,都存在次数为O~(Γ²/ε²)的非负多项式实现ε-L1逼近。该结果与非负性约束下的最佳已知度界匹配,为非正例的平滑学习等应用提供了理论支撑。论文理论L1逼近高斯分布机器学习理论推荐理由:该结果统一了高斯表面理论与L1逼近的度界,为非负多项式在平滑学习中的应用提供了理论基础,对理论计算机科学中指标函数逼近研究具有参考价值。原文