#幻觉检测

共 7 条 · 7 天 0 条 · 30 天 1 条

信息流里打上「幻觉检测」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月1日

MEND方法能检测并修正世界模型中的幻觉，AUROC达0.80，定位准确率0.87，提升预测准确性。

arXiv cs.AI@Ali J Alrasheed 等 5 人原文

9月3日

论文精选73°12:14

这篇论文教你如何检测黑盒大模型的幻觉，有4种方法可选，无需监督标签也能用。

arXiv cs.AI@Urja Pawar 等 7 人原文

8月4日

这篇论文用1,600个人类写的幻觉样本对比了18,400个模型生成的样本，发现人类样本更稳定、更好控制，以后测幻觉不用老换模型了。

arXiv cs.AI@Timothee Mickus 等 13 人原文

7月28日

这篇论文给出一个简单检测幻觉的方法，只靠模型内部的隐藏状态算一个分数，不用外部工具，在FAVA和RAG上验证有效。

arXiv cs.AI@Bianca Raimondi 等 4 人原文

6月24日

这篇论文教你用梯度信号抓幻觉，比看置信度准得多，而且发现只看最后5层就够了，省算力。

arXiv cs.LG@Anand Kamat 等 3 人原文

5月14日

论文精选13:27

这篇论文把幻觉检测从“整体打分”推进到“单步定位”，做推理模型调试和可解释性研究的团队值得关注——它用几何视角揭示了错误发生的精确位置，比传统方法更细粒度。

arXiv cs.AI@Tyler Alvarez, Ali Baheri原文

5月13日

论文精选19:12

CAAFC 解决了现有自动事实核查系统与专业实践脱节的痛点，做内容审核、AI 安全或信息验证的团队可以直接参考其框架设计，提升事实核查的可靠性和可操作性。

arXiv cs.AI@Islam Eldifrawi 等 3 人原文