精选理由
做向量检索或 RAG 的开发者注意了：多向量检索中策略选择比模型选择更关键，选错策略可能让最好的模型也白费。建议在调优前先测一下 token 向量的分离度，再决定用 TokenANN 还是 LEMUR。
Milvus 团队在一条推文中揭示了一个关键发现：在多向量检索中，选择错误的近似检索策略比选错模型带来的性能损失更大。他们使用相同的 Jina-ColBERT-v2 模型和 LoTTE 数据集，仅改变第一阶段近似检索策略，结果 TokenANN 策略的 nDCG@10 达到 0.701，而 LEMUR 策略仅为 0.109，差距约 6 倍。原因是不同策略对模型 token 向量的空间分布（分离度）敏感度不同：对于分布分散的模型（如 Jina），TokenANN 和 MUVERA 效果好；对于分布紧凑的模型（如 AnswerAI），LEMUR 更优。研究者可以通过计算 token 向量 MaxSim 得分的标准差来预判策略选择。
AI 翻译 · 中文
Milvus 团队在一条推文中揭示了一个关键发现：在多向量检索中，选择错误的近似检索策略比选错模型带来的性能损失更大。他们使用相同的 Jina-ColBERT-v2 模型和 LoTTE 数据集，仅改变第一阶段近似检索策略，结果 TokenANN 策略的 nDCG@10 达到 0.701，而 LEMUR 策略仅为 0.109，差距约 6 倍。原因是不同策略对模型 token 向量的空间分布（分离度）敏感度不同：对于分布分散的模型（如 Jina），TokenANN 和 MUVERA 效果好；对于分布紧凑的模型（如 AnswerAI），LEMUR 更优。研究者可以通过计算 token 向量 MaxSim 得分的标准差来预判策略选择。
With the same multi-vector model, and the same dataset, nDCG @10 can drop from 0.701 to 0.109 — roughly a 6x gap. Why? It's because you changed the approximate retrieval strategy. 𝗜𝗻 𝗺𝘂𝗹𝘁𝗶-𝘃𝗲𝗰𝘁𝗼𝗿 𝗿𝗲𝘁�…