Papers75°
CoT推理中模型内部可检测错误但无法修正：诊断而非因果
Why we picked it
该研究揭示了当前可解释性方法的关键局限——高精度的内部错误检测并不能转化为有效修正，挑战了对CoT推理过程的因果干预假设。对AI安全与实践者有重要警示：依赖隐藏状态进行推理纠错可能行不通。
研究揭示了链式思维推理中的一个反直觉现象：语言模型能在内部（隐藏状态）精确检测自身推理错误（AUROC达0.95），但外在表达的信心与正确推理几乎无异（4.
Body
55/5 vs 4.87/5）。
这一错误意识从推理第一步就存在（AUROC 0.79），并在Qwen、Llama、Phi等模型家族及DeepSeek-R1等推理模型上得到验证。
然而，所有基于该信号的干预尝试（激活导向、最佳N选1、自我修正、激活修补）均失败，说明错误表征是计算质量的诊断指标，而非可修改的因果杠杆。这划定了解释性边界：推理中的错误表征与可编辑的事实知识本质上不同。
Industry Coordinates & Source Verification
This report is categorized under AITOP's "Papers" desk. Key entities and technical topics under continuous tracking include 推理模型, 可解释性, 链式思维, 错误检测.
Primary source verification: published directly by arXiv: DeepSeek with first-party authority.
