№hallucination·general
hallucination
别名
- 首次出现
- 2026-05-22
- 最近出现
- 2026-07-28
- 累计提及
- 42
§ 01综述
Hallucination是指AI模型生成看似合理但事实上错误或虚构内容的特性，是当前大语言模型面临的核心挑战之一。
Hallucination 近期进展
2026年7月，arXiv上的一篇研究《Hallucination in World Models is Predictable and Preventable》指出，世界模型中的幻觉现象是可预测且可预防的，并提出了一种基于不确定性检测的干预方法。原文标题
OpenAI在2025年发布的《Why Language Models Hallucinate》报告中系统分析了幻觉成因，发现训练数据中的长尾分布和模型对事实性奖励的过度优化是主要诱因。原文标题
2025年GPT-4.5研究预览中，OpenAI声称通过扩大模型规模和更好的数据过滤，将幻觉率降低了约40%，但并未完全消除。原文标题
百川AI在2025年多项基准测试中取得SOTA成绩，其模型在事实性问答中表现出较低的幻觉率，但具体方法尚未公开。原文标题
当前焦点与观察点
当前对hallucination的防御主要分为两类：一类是通过改进训练数据、奖励模型和推理机制来直接减少幻觉发生；另一类是通过检索增强生成（RAG）或事后验证来检测和纠正幻觉。然而，至今没有模型能完全避免hallucination，尤其在开放域生成和长尾知识问题上。业界争议点在于：是否应该追求完全无幻觉的模型，还是在可控范围内接受一定幻觉以换取更高的创造性和灵活性。此外，如何在模型评估中标准化幻觉率也是亟待解决的问题。