幻觉

AI 领域对‘幻觉’问题的关注正从简单检测转向系统性缓解与防御。近期两大核心进展：一是 PhantomBench 基准测试首次大规模评估模型对‘不存在概念’的回答，发现当前模型幻觉率普遍高达 86.7%，揭示出幻觉并非个例而是系统性缺陷；二是 Provenance-Grounded Gating 等新型合成数据后训练方法提出通过溯源门控与自适应恢复机制，将幻觉率降低超 40%。同时，多项 Agent 评测（如 Agent Arena）显示，领先模型（如 Claude Fable 5、GPT 5.5）在任务成功率上差距不大，但非显式将幻觉作为排名指标，暗示评测体系仍需完善。当前焦点集中在：如何将幻觉抑制从模型训练后阶段前移至训练数据构造环节，以及如何在多轮对话和工具调用场景中实现实时幻觉检测与纠正。未来值得观察 AI 系统是否能在合成数据生成中内建‘真实性边界’，以及基准能否将幻觉率与任务成功率统一纳入评估框架。