Chain-of-Thought 相关 AI 资讯

7月28日

23:53

elvis@omarsar0

精选

DAIR.AI介绍了一篇关于LLM推理的新论文（arxiv:2607.22925）。研究发现前沿模型可以通过插入语义无关的填充token（如重复无意义词）进行隐形推理。这种推理过程对链式思维（CoT）监控完全不可见，可能隐藏真实意图。论文揭示了现有CoT监控方法的盲区，涉及模型行为的可解释性挑战。

论文 LLM Chain-of-Thought DAIR.AI

推荐理由：论文发现模型会偷偷用‘嗯啊’这种废话来推理，监控根本抓不到，细思极恐。

原文

7月16日

10:40

官方账号arXiv cs.AI@Hefeng Zhou, Jinxuan Zhang, Jiong Lou, Yuxin Liu, Chaochao Lu, Jingjing Qu, Jie Li

Deep Interaction 是一种针对大推理模型的人机交互方法，允许用户直接编辑 Chain-of-Thought (CoT) 推理中的错误步骤。该方法将编辑后的 CoT 精炼为蒸馏提示，引导模型沿校正路径推理。在 STEM 任务上，纠正成功率提升超过 25%，token 使用减少约 40%。实验基于多个 STEM 推理基准，展示了显著的效率提升。

论文 Deep Interaction Chain-of-Thought LLM

推荐理由：这篇论文提出 Deep Interaction，让你可以直接改推理步骤的错误，不用推倒重来。实验说 STEM 任务上纠错成功率涨 25%，token 还省 40%，挺实用的方法。

原文

6月25日

01:30

01:30官方一手Google Research: Blog（资讯）

精选

Google Research提出'Thinking to Recall'假设，认为链式思维（Chain-of-Thought）推理的本质是组合LLM参数中分散存储的知识片段。基于PaLM 2模型的实验显示，在GSM8K和MATH等数学推理基准上，推理步骤让模型更有效地调用习得的知识。该工作揭示了注意力机制在定位和整合参数化知识过程中的关键作用。

论文 Chain-of-Thought PaLM 2 参数化知识

事件专题

推荐理由：Google用PaLM 2发现，模型不靠堆算力背答案，而是靠推理串起脑袋里分散的知识点。比直接猜准多了。

原文

6月20日

02:27

Stanford AI Lab@StanfordAILab

斯坦福AI实验室的SAIL博客发布新文章，由Peter Bhase和Chris Potts共同撰写，系统梳理了CoT（思维链）监控作为AI安全热点问题的起源。文章回顾了相关研究的历史演进，分析了该概念如何从技术讨论演变为关键安全议题。

论文 SAIL CoT Chain-of-Thought

推荐理由：斯坦福AI实验室的两位研究者梳理了CoT监控的来龙去脉，想理解AI安全前沿热点的演变，这篇博客值得看。

原文

6月17日

10:21

官方账号arXiv cs.LG@Yuming Chen, Yuxin Xie, Tao Zhou, Yi Zhou

提出CERS框架，将链式思维推理集成到半监督医学图像分割中，解决视觉-语义不匹配问题。利用大语言模型生成语言推理描述构建知识池，并设计语义感知参考选择策略，通过形态过滤和CoT一致性消除硬负样本。引入多尺度坐标注意力模块融合推理上下文，在多个基准上优于现有方法，尤其改善边界模糊和语义不一致。

论文 CERS Chain-of-Thought 医学图像分割

推荐理由：这篇论文用CoT推理帮医学图像分割识别病理不同的病变，比只看像素的旧方法靠谱得多，尤其是处理边界模糊的情况。

原文

6月16日

10:43

官方账号arXiv cs.AI@Ankit Bhattacharjee, Krityapriya Bhaumik

RDS Fusion是一种混合神经符号架构，通过压缩链式思维（CoT）推理轨迹实现零样本讽刺检测，无需监督微调。在TweetEval测试集（N=734）上，RDS取得78.1%准确率和0.777宏F1，匹配微调BERTweet的性能上限。在严重不平衡的iSarcasm数据集上，其冻结CoT管道过滤了22.5%的分布外幻觉，零样本宏F1达0.6726，Ironic F1为0.4821，优于多个有监督SemEval集成模型。统计消融实验表明，仅当三种信号完全融合时才产生显著改善（p=0.005）。

论文 RDS Fusion 讽刺检测混合神经符号

推荐理由：这篇论文提出了RDS Fusion，不用微调就能在讽刺检测上达到和微调BERTweet一样的水平，还在难数据集上比很多监督方法强。

原文

5月12日

19:11

官方一手arXiv: OpenAI@Songtao Wei, Yi Li, Zhikai Li, Xu Hu, Yuede Ji, Guanpeng Li, Feng Chen, Carl Yang, Zhichun Guo, Bingzhe Li

LEAD提出了一种在线自适应推理压缩方法，解决大推理模型（如OpenAI o1、DeepSeek-R1）在CoT过程中过度冗长的问题。传统强化学习方法使用静态权重和全局长度约束，难以平衡正确性与效率，且无法适应不同问题的推理预算需求。LEAD通过Potential-Scaled Instability动态校准每步的正确-效率权衡，并基于模型自身正确rollouts在线估计每个问题的目标长度，然后应用对称效率奖励——既惩罚过度思考也惩罚过度压缩。在五个数学推理基准上，LEAD取得了最高的准确率和准确-效率得分，同时生成比基础模型更短的输出。

论文推理模型推理效率自适应压缩

事件专题

推荐理由：该方法为推理模型部署中的计算效率问题提供了自适应解决方案，对于实际应用中降低推理成本和延迟具有重要价值，特别是在数学推理等需要长链推理的场景。

原文