全部 AI 动态 · AI 热点

6月16日

20:46

AITOP6月16日 20:46

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

6月12日

12:57

AITOP6月12日 12:57

Claude代码里藏了个20260612，18个月后的AI记忆革命已经开始倒计时

6月11日

15:28

AITOP6月11日 15:28

1107 vs 303：谷歌悄悄开源了一个“拆打字机”的模型，把大模型速度翻了4倍

15:23

AITOP6月11日 15:23

DiffusionGemma颠覆文本生成？自回归模型的“统治”要结束了

15:07

AITOP6月11日 15:07

每秒1107个token，Google开源的扩散模型为什么能改变本地推理格局？

6月5日

13:07

13:07

arXiv cs.LG@Guancheng Tu, Xiangjun Fu, Suhao Yu, Yao Tang, Haoqiang Kang, Lianhui Qin, Yizhe Zhang, Jiatao Gu

精选

大型语言模型通过显式思维链（CoT）提升推理能力，但文本CoT强制中间计算通过离散、串行的令牌流进行，效率低下。潜在推理通过在紧凑连续状态中进行中间计算，提供了更高带宽的替代方案。然而，现有潜在推理方法牺牲了CoT的关键优势，如从左到右生成、概率采样、KV缓存兼容性和可处理似然估计。本文提出NF-CoT框架，通过在LLM骨干网络内实例化TARFlow风格的归一化流，对从显式CoT中提取的紧凑连续思维进行可处理概率建模。NF-CoT在代码生成基准测试中，相比显式CoT和先前潜在推理基线，提高了通过率，同时大幅降低了中间推理成本。

论文潜在推理归一化流思维链代码生成 NF-CoT

推荐理由：NF-CoT解决了潜在推理中丢失CoT关键优势的痛点，做LLM推理优化和代码生成的开发者可以直接参考其方法，提升效率。

5月29日

11:05

11:05

arXiv cs.AI@Lukas Aichberger, Sepp Hochreiter

精选

论文提出 Reasoning in Memory (RiM) 方法，用固定内存块替代自回归生成推理步骤，让大模型在单次前向传播中完成潜在推理。该方法受人类工作记忆启发，通过两阶段课程训练：先预测显式推理步骤来锚定内存块，再丢弃步骤级监督直接优化最终答案。实验表明，RiM 在多个推理基准上匹配或超越现有潜在推理方法，且计算效率更高。这为提升大模型推理能力提供了新思路，尤其适合需要高效推理的场景。

论文推理模型潜在推理工作记忆计算效率 RiM

推荐理由：RiM 解决了自回归推理计算效率低的问题，做模型推理优化的研究者可以直接参考其两阶段训练方法。