AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Quadratic Neural Networks

共 1 条相关 AI 资讯
6月29日
10:10
10:10官方账号arXiv cs.AI@Julius Girardin, Emanuele Troiani, Yizhou Xu, Vittorio Erba, Florent Krzakala, Lenka Zdeborová
该论文在二次两层神经网络中,通过ℓ2正则化经验风险最小化,分析了泛化误差随参数数量、样本量和宽度变化的精确表达式。研究发现泛化误差遵循依赖于目标谱结构的数据驱动幂律,并揭示了不同缩放区域间的相图转变,包括插值起始点的特征。实验基于有限样本和结构化数据,为理解特征学习模型的缩放行为提供了理论框架。
论文Quadratic Neural Networks泛化缩放定律相图正则化幂律

推荐理由:这篇论文给出了二次网络里参数和样本数怎么影响泛化误差的数学公式,比单纯看数据或算力更深入。
原文
精选全部日报登录