Evidence-Aware(证据感知)指模型在推理、检索或评估过程中显式依赖可追溯证据,而非仅凭参数记忆或表面匹配给出结果的一类方法与评价范式。它横跨大模型奖励设计、检索增强生成(RAG)评估和个体识别等方向,正逐渐从单一技术技巧上升为衡量 AI 可信度的通用要求。
Evidence-Aware 近期进展
当前焦点与观察点
从这三项工作可以看出,Evidence-Aware 正沿两个方向收敛:一是作为训练信号,把“找到证据”本身写进奖励函数,改善长链推理;二是作为评估手段,重新审视标注数据与检索指标之间的关系,尤其在医疗等高风险场景。
值得关注的争议点在于:证据的“真值”由谁定义?医疗 RAG 研究已经表明,不同的标注策略会得出不同的检索分数,这意味着证据感知评估本身也需要被校准。此外,在奖励模型中加入证据定位是否会带来额外的标注成本与可利用性风险,仍是开放问题。后续可观察这类方法能否从论文走向工业级 RAG 与 Agent 系统的默认配置。