№encoder·general
Encoder
别名
- 首次出现
- 2026-05-22
- 最近出现
- 2026-07-28
- 累计提及
- 21
§ 01综述
Encoder（编码器）是深度学习中一种将输入数据（如文本、图像、图结构）转换为紧凑向量表示的神经网络模块，是Transformer、自编码器、序列到序列模型等架构的核心组成部分。它在特征提取、表示学习和跨模态对齐中扮演关键角色，其质量直接影响下游任务性能。
Encoder 近期进展
动态图编码器提升隐含神经表示分类：新提出的 Dynamic Neural Graph Encoder 通过在图结构上动态聚合邻域信息，将可微渲染的隐含神经表示（INR）分类准确率提升约10%，表明编码器设计可针对特定数据类型进行结构化优化。 Dynamic Neural Graph Encoder 提升 INR 分类准确率约 10%
跨领域Transformer语言模型的编码器架构演进：一项综述系统梳理了跨多个领域的Transformer语言模型，重点分析了编码器在从纯编码器（BERT）到编码器-解码器（T5）再到解码器（GPT）路线中的角色，指出编码器在双向上下文建模和细粒度特征提取上的独特优势。 跨领域Transformer语言模型：架构、应用与评估
面向LLM智能体的技能路由与编码器集成：SkillWeaver 方法通过组合技能路由提升LLM智能体能力，其中隐含地利用编码器对历史轨迹和技能进行嵌入表示，以实现模块化复用和迁移，展示了编码器在智能体系统中的新型应用。 SkillWeaver：面向LLM智能体的组合技能路由方法
当前焦点与观察点
当前Encoder研究聚焦于三个方向：一是面向特定数据结构的定制化编码器（如图、序列、隐含场），追求更高的表征效率和泛化能力；二是在统一Transformer架构下，编码器与解码器的分工日趋灵活，纯编码器模型在理解任务中仍有不可替代性；三是编码器在智能体、多模态融合等复杂场景中从固定组件变为可动态演化模块，其表示的可解释性和迁移性成为新挑战。后续发展或将进一步模糊编码器与任务专有模块的边界，推动端到端学习的极致化。