Embedding 是机器学习中将离散对象(如单词、图像、时间序列)映射到连续向量空间的技术,使语义相似的对象在向量空间中距离更近。它是现代 AI 系统(如大模型、检索增强生成)的基础组件。
Embedding 近期进展
2026 年 7 月,美团开源万亿参数大模型 LongCat-2.0,同步开放国产卡推理代码。该模型优化了 embedding 表示,支持高效推理。 美团万亿参数大模型 LongCat-2.0 开源,同步开放国产卡推理代码
2026 年 7 月发布的 RAG-Anything 教程展示了如何在 Colab 中构建多模态检索管线,结合文本、表格、方程和图像的 embedding,提升检索准确性。 RAG-Anything教程:在Colab构建文本/表格/方程/图像多模态检索管线
2026 年 6 月,Liquid AI 发布 LFM2.5-Embedding-350M 和 ColBERT-350M 多语言搜索模型,支持 11 种语言,兼顾稠密向量与后期交互检索。 Liquid AI发布LFM2.5-Embedding-350M和ColBERT-350M多语言搜索模型
Milvus 实现了在 embedding list 上直接构建 HNSW 索引,质量近无损,显著提升向量检索效率。 Milvus 直接在 embedding list 上构建 HNSW,质量近无损
当前焦点与观察点
Embedding 技术正加速向多模态、大规模、高效率方向演进。从 LongCat-2.0 的万亿参数到 ColQwen 在多向量检索上领先稠密模型近 18 个点,说明 embedding 的表示能力与检索性能持续提升。同时,轻量级模型(如 LFM2.5-Embedding-350M)和推理优化方案(如 Milvus 的 HNSW 直接构建)降低了部署门槛。但如何平衡 embedding 的维度、精度与计算成本仍是关键挑战,自监督学习框架(如 ER-JEPA、LeNEPA)的提出为解决数据标注瓶颈提供了新思路。