AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:线性分类器×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月5日
13:12
13:12arXiv cs.LG@August Y. Chen, Ahmed El Alaoui
精选
该论文研究了在高维过参数化场景下,能够完美插值训练数据的线性分类器的泛化性能分布。在两种数据生成模型(高斯混合模型和逻辑回归模型)下,作者证明了当样本数与维度之比足够小时,几乎所有插值分类器的泛化误差都集中在某个最优值附近,只有指数级小部分的分类器性能显著不同。通过数值比较,发现梯度下降和经验风险最小化等高效算法找到的插值器性能优于绝大多数随机插值器,揭示了这些算法在过参数化设置下具有非平凡的良性过拟合特性。这项工作为理解深度学习中的“良性过拟合”现象提供了理论支撑。
论文过参数化泛化理论线性分类器大偏差原理良性过拟合

推荐理由:这篇论文从理论层面解释了为什么过参数化模型能泛化——做高维统计学习或深度学习理论的研究者,看完会对“良性过拟合”有更精确的数学理解,值得深入阅读。
原文
5月21日
12:29
12:29arXiv cs.LG@Ilias Diakonikolas, Giannis Iakovidis, Mingchen Ma
精选
该研究解决了高斯分布下多类线性分类的鲁棒学习问题。对于k≥3类的情况,此前算法在精度上存在指数级依赖。研究者发现标准多类感知器算法在k≥3时所需样本和更新次数超多项式,揭示了二元分类与多类分类的根本差异。他们提出了一种成对非恰当学习框架,实现了误差O(k^{3/2}√opt)+ε的多项式时间算法。对于k=3,进一步开发了基于定位的框架,达到误差O(opt)+ε。这些结果首次为多类线性分类提供了维度无关的误差保证和高效算法。
论文多类分类鲁棒学习高斯分布多项式时间算法线性分类器

推荐理由:该研究解决了多类线性分类在k≥3时长期存在的计算瓶颈,做机器学习理论或分类算法开发的团队值得关注,其成对框架可直接用于改进实际多类分类器的鲁棒性。
原文
精选全部日报登录