Representation（表示/表征）是机器学习中的核心概念，指模型将输入数据编码为内部向量的方式，直接决定了下游任务的性能上限。近年来，围绕如何学到更高效、更鲁棒的 representation，研究已从传统的自监督预训练扩展到强化学习、生成模型、大模型对齐等多个方向，成为连接基础研究与实际应用的关键纽带。
Representation 学习的近期进展
当前焦点与观察点
从近期论文分布看，representation 研究呈现几个值得关注的趋势。其一是从“通用表示”走向“任务对齐表示”：无论是 DeepMind 的动态对齐学习，还是动作模型中优化动作编码以保留动作关系的工作，都在强调表示应与目标任务的内在结构一致，而非单纯追求重构或对比损失上的优秀。
其二是表示干预成为大模型对齐的新路径。与微调权重不同，MARI 等方法选择在表示空间中进行调控，这类方法的可解释性和可控性优势正在吸引越来越多研究投入。
其三是跨模态与跨领域的表示融合问题浮出水面。已有研究揭示了不同多模态架构在信息融合路径上的差异，而在空间转录组学、电子健康记录等科学领域，如何兼顾精度、效率与表示权衡也成了新课题。此外，表格基础模型在上下文内细化表示的 RefineICL 工作，则展示了表示学习与上下文学习结合的可能性。
总体而言，representation 正从预训练时代的“副产品”转变为被显式设计、干预和评估的对象。未来值得观察的方向包括：表示干预方法能否在大规模部署中保持稳定，任务对齐式表示学习是否会成为基于模型强化学习的主流范式，以及科学领域中的表示权衡如何在精度与计算成本之间取得平衡。