Event ·Single source

UC San Diego 研究:长文本检索失败主因是干扰内容而非长度

UC San Diego 的论文测试了 LLM 长上下文失败的真实原因。在 Qwen2.5-1.5B 上加入 32K 无关文本后,准确率仍保持在 97%-100%。但当上下文中出现与答案相似但数值错误的语句时,准确率跌至 16%-33%。126,473 次试验显示,注意力偏离正确段落的程度可解释 58% 的错误差异,而输入长度最多解释 8%。论文建议在 RAG 和智能体记忆场景中优先去重并消解冲突语句。

Current read

UC San Diego 这篇论文说明长文本丢分不是长度问题,是相似但错误的语句抢走了注意力,RAG 场景该先去重。

2 sources61° AI heatLast updated 2026/11/4 12:35:02

Evidence

2 sources
Related source 1arXiv cs.LG
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.