8月13日
17:41
17:41官方账号arXiv cs.LG@Zhao Su, Yuxin Xia, Haoran Li, Jun Shen, Qi Zhu, Qingguo Zhou, Binbin Yong
Kolmogorov-Arnold网络(KAN)用可学习单变量函数替换标量权重以增强非线性逼近,但每个连接独立函数导致参数冗余。HYDRA将输入映射到Poincaré球的双曲空间,在切空间执行KAN更新,并用低秩原型块跨隐藏维共享函数变换。在八个基准数据集上,HYDRA在保持竞争性或更优预测性能的同时,提高了参数效率和表示可解释性。
推荐理由:这篇论文提出HYDRA,给KAN“减负”,参数更省还不掉点,双曲空间让表示更可解释。做KAN相关研究的可以看看。
6月17日
10:45
10:45官方账号arXiv cs.AI@Hongyuan Adam Lu, Z. L. Victor Wei, Qun Zhang, Jinrui Zeng, Bowen Cao, Lingwei Meng, Mocheng Li, Zezhong Wang, Haonan Yin, Naifu Xue, Minyu Chen, Cenyuan Zhang, Zefan Zhang, Hao Wei, Jiawei Zhou, Haoran Xu, Hao Yang, Ronglai Zuo, Tongda Xu, Yonghao Li, Jian Chen, Hebin Wang, Zeyu Gao, Yang Li, Wei Zhao, Qimin Zhong, Siqi Liu, Yumeng Zhang, Leyan Cui, Zhangyu Wang, Wai Lam
精选
Looped World Models(LoopWM)首次将循环架构引入世界建模,通过参数共享的transformer块迭代细化潜在环境状态。相比传统方法,LoopWM在参数效率上提升多达100倍,并能根据预测复杂度自动调整计算深度。该方法将迭代潜在深度确立为世界仿真的新扩展轴,独立于模型规模和训练数据规模。
推荐理由:这篇论文用循环架构解决了世界模型长程预测的计算瓶颈,参数省了100倍还能自适应深度,做仿真和规划的研究者值得看。