Causal

general · First seen 2026-05-22 · Last seen 2026-11-20 · 222 mentions

Overview

Causal(因果)研究关注的是让模型理解“为什么”,而不仅是预测“是什么”。在当前以大模型与智能体为主的 AI 领域,因果能力被视为区分真正推理与模式匹配的关键指标,相关论文和评测框架近期集中出现,成为学术界与产业界共同关注的方向。

因果建模的近期进展

  • CauProphet:让智能体像人类一样形成因果认知 该工作尝试让智能体自主形成因果认知结构,而非依赖人工标注的因果图,目标是逼近人类的因果直觉。
  • xWhyL 框架:从解释中学习因果模型 这篇论文提出从模型的解释文本中反向抽取因果结构,把“可解释性”与“因果学习”两条研究线连接起来。
  • 延续式因果测试:CoT 在难题上才真正影响答案 研究用新的测试范式检验思维链的真实作用,结论是 CoT 只在困难任务上才实质性改变答案,这对评估模型是否具备真实推理有直接意义。
  • 解析解 broker-trader 博弈中 PPO 奖励正确仍学不准 该论文在可解析的博弈环境中证明,即使奖励信号在因果上完全正确,强化学习仍可能学不到目标策略,提示奖励设计与学习动态之间存在未被理解的鸿沟。
  • 当前焦点与观察点

    从这批工作看,因果研究的重心正在从传统的因果发现算法转向“智能体的因果认知”:不再只问模型能否拟合因果图,而是问它能否在交互中自行建立并修正因果理解。CauProphet 和 xWhyL 都体现了这一转向。

    第二个焦点是评测方法。延续式因果测试表明,现有 CoT 评测可能高估了模型的推理能力,复杂任务上的表现差异才是真正信号。这与 AgentWorld、Agent Arena 等强调长程真实任务的评测趋势相互印证——社区正在推动从静态基准转向更贴近因果机制的动态评测。

    需要保持审慎的是,这些工作多为早期论文,因果认知能否稳定迁移到开放环境尚缺乏大规模验证;而奖励正确仍学不准的发现也说明,因果理论正确不等于训练效果正确。后续值得观察的是因果方法能否在智能体长程任务评测中体现为可复现的性能差异,而非停留在概念层面的讨论。

    Coverage

    10 on file