Anthropic 新研究：教 Claude 理解“为什么”以减少智能体对齐失败

Anthropic 发布了一项新研究，旨在通过教 AI 模型理解“为什么”来减少智能体对齐问题。研究指出，当前 AI 智能体在执行任务时，常因缺乏对指令背后意图的理解而产生误操作。通过引入因果推理和解释性训练，模型能更好地遵循人类意图，降低对齐失败的风险。该工作为构建更可靠、更安全的 AI 智能体提供了新思路。