LeCun 讲了段往事:1986 年他带着多层网络海报去 MIT,Minsky 见过他。喜欢深度学习历史的可以看看。
#神经网络
Gary Marcus 发火吐槽了,说很多人分不清神经网络自己解题和符号系统验证答案的区别,想聊 AI 能力边界可以看看。
arXiv 上新出的 Purin 机制,给 AlexNet、VGG11 这些老 CNN 加了突触效能调制,三个模型准确率都涨了,搞 CV 的可以看看。
一篇很脑洞的论文:权重不存了,用 24 字节种子加复二次映射现场算出来,Two-Moons 上拿到 77.67% 准确率,思路挺新鲜。
这篇论文提出了一个名为ICON分解的新方法,用于更准确地评估深度神经网络中各个概念的重要性,对于模型审计和可解释性研究具有重要意义。与现有的基线方法相比,它能够提供更可靠的解释,对于理解模型的决策过程非常有帮助。
这篇论文提出了一个新颖的解剖信息神经网络模型,通过引入解剖先验来提高解剖模型的准确性,对于需要精确解剖信息的领域如血管手术和内血管导航具有重要意义。
这篇论文把黎曼深度学习做成了统一理论,把批量归一化、逻辑回归推广到各种流形,还有新的双曲模型和高效几何,搞几何深度学习的别错过。
这篇论文用可解释神经网络从对称性角度预测原子核质量,WINN模型精度0.430 MeV,还揭示了中子滴线和超重区的新现象,值得搞核物理或AI的人看看。
这篇论文用Oppenheim-Lim实验方法测试了多个模型(ViT、CNN)的内部表示,发现相位才是关键,还解释了为什么CNN和ViT对纹理和形状的偏好不同。
这项研究戳破了 AI 领域的一个常见误解——神经网络并不像大脑。做 AI 研究或对认知科学感兴趣的读者,看完会对模型设计有新的思考。
这项研究澄清了数据对称性与神经网络训练动力学之间的深层关系,对理解数据增强的理论基础有重要意义。做理论研究的机器学习学者值得关注,它可能影响你对数据增强策略的设计思路。