09:14SuperTechFans(博客/媒体)一项针对AI数学能力的分析认为,其优势来自近乎无限的符号工作记忆,而非更强的推理能力。人类数学家受限于工作记忆容量,而AI的上下文窗口能同时容纳整个问题、数百个中间方程和多种尝试路径。多项研究表明,控制智力水平后,工作记忆仍能独立预测数学成绩。因此AI看似聪明,实则只是用外部草稿纸绕过了人类生物瓶颈。AI模型工作记忆数学推理上下文窗口推荐理由:这篇文章说AI数学强在记性好而不是脑子好,用上下文窗口碾压人类工作记忆,角度挺新鲜。原文稍后读已读值得跟进有用关注 工作记忆
11:05官方账号arXiv cs.AI@Lukas Aichberger, Sepp Hochreiter精选论文提出 Reasoning in Memory (RiM) 方法,用固定内存块替代自回归生成推理步骤,让大模型在单次前向传播中完成潜在推理。该方法受人类工作记忆启发,通过两阶段课程训练:先预测显式推理步骤来锚定内存块,再丢弃步骤级监督直接优化最终答案。实验表明,RiM 在多个推理基准上匹配或超越现有潜在推理方法,且计算效率更高。这为提升大模型推理能力提供了新思路,尤其适合需要高效推理的场景。论文推理模型潜在推理工作记忆推荐理由:RiM 解决了自回归推理计算效率低的问题,做模型推理优化的研究者可以直接参考其两阶段训练方法。原文稍后读已读值得跟进有用关注 推理模型