#error detection

4 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "error detection", newest first.
Aug 31
Jun 30
Jun 9
May 12
Papers75°19:11
Chinese contentCoT推理中模型内部可检测错误但无法修正:诊断而非因果

该研究揭示了当前可解释性方法的关键局限——高精度的内部错误检测并不能转化为有效修正,挑战了对CoT推理过程的因果干预假设。对AI安全与实践者有重要警示:依赖隐藏状态进行推理纠错可能行不通。

arXiv: DeepSeek@Aojie Yuan et al. (5)Source