特征学习是机器学习中让模型自动从原始数据中提取有用表示的一类方法，它决定了模型能否把高维、杂乱的输入（如图像像素、文本词向量）转换成便于分类、预测或生成的内部特征。在深度学习中，特征学习几乎贯穿所有主流架构，其质量直接影响模型的泛化与迁移能力。近期多项研究从多源联合分解、输入预处理、优化器选择和理论刻画四个方向推进了这一领域。
特征学习近期进展
多数据源联合建模方面，arXiv 于 2026 年 10 月发布的 eKSVD 工作提出把核奇异值分解扩展到多个数据源，实现联合非线性特征学习，让不同来源的数据在共享特征空间中相互借力（eKSVD：将核奇异值分解扩展到多数据源的联合非线性特征学习）。这延续了字典学习思路，但用核方法处理非线性结构，适用于多模态场景。
输入侧的处理同样受到关注。2026 年 7 月的一篇论文研究傅里叶预处理对神经特征学习的作用，探索在进入网络前对信号做频域变换是否能改善学到的表示（傅里叶预处理用于神经特征学习）。这提示特征学习不只在网络内部发生，前端变换也会影响最终特征的质量。
优化器与特征性质之间的关系也被重新审视。2026 年 6 月的对比显示，Muon 优化器比 Adam 学到更鲁棒、更可迁移的特征（Muon 优化器比 Adam 学到更鲁棒、可迁移的特征）。这意味着同样的网络结构下，训练算法的选择会改变特征本身的泛化属性，而不仅是收敛速度。
理论层面，2026 年 5 月的工作尝试为特征学习神经网络建立正则化理论，从核机制过渡到黎曼几何来刻画其行为（特征学习神经网络的正则化理论：从核机制到黎曼几何）。这为理解特征学习为何有效、何时失效提供了更形式化的框架。
当前焦点与观察点
当前焦点集中在三点：一是跨数据源的联合特征学习能否在真实多模态任务中稳定优于单源训练；二是预处理与优化器等训练环节对特征鲁棒性的影响能否被量化预测；三是核机制与黎曼几何等理论工具能否给出可操作的设计准则。需要观察的是，这些方法多停留在 arXiv 预印本阶段，缺乏统一基准上的横向比较，实际部署收益仍有待验证。