论文精选10:13谱理论解释 grokking 现象:weight decay 驱动特征学习研究 grokking 为什么突然泛化的论文,理论算出 grokking 时间由学习率乘 weight decay 决定,还用上千个网络验证了,做可解释性的可以看看。#grokking#weight decay#NTK#可解释性aarXiv cs.LG@Lenz Pracher 等 5 人原文稍后读已读值得跟进有用关注 grokking
模型17:44LIGHTYEAR:基于NTK的联邦学习个性化聚合新框架联邦学习遇到非独立同分布数据时,LIGHTYEAR用NTK判断哪些更新对你有用,比单纯比参数靠谱,五个数据集上都赢了。#LIGHTYEAR#联邦学习#NTK#个性化聚合aarXiv cs.LG@Mirko Konstantin 等 3 人原文稍后读已读值得跟进有用关注 LIGHTYEAR