8月6日
8月3日
6月30日
11:47
11:47官方账号arXiv cs.LG@Şuayp Talha Kocabay, Talha Rüzgar Akkuş, Kerem Yalçın
精选
论文证明组合函数树的Rademacher复杂度不随符号结构数量指数增长,而是受深度d和基算子Lipschitz常数控制。具体界为ℜ_n(ℋ_comp^d) ≤ (Kb√2L)^{d-1}ℜ_n(ℋ_comp^1),其中K为算子库大小、b为元数。当K,b=O(1)时,高概率风险界为O(L^d/√n)。实验在合成物理类目标上验证了理论预测。
推荐理由:论文把PAC学习理论用到符号回归上,证明了组合函数树的样本复杂度不会随深度爆炸,还给了可跑的代码。
6月18日
10:39
10:39官方账号arXiv cs.LG@Till Richter, Niki Kilbertus
OrthoReg提出了一种正交正则化方法,直接惩罚符号组件与神经组件的重叠,防止符号结构被神经残差吸收。相比标准L2正则化,该方法在符号组件通过稀疏发现学习时仍能保持互补分解。在部分库不匹配的基准动力系统上,OrthoReg改善了符号恢复准确性和分布外泛化性能。
推荐理由:这篇论文提出OrthoReg,解决了混合建模中神经网络容易学走符号部分的问题,实验效果明显,写代码的朋友可以看看。