AITOP

记忆机制

共 15 条相关 AI 资讯
8月18日
10:30
10:30官方账号arXiv cs.LG@Reza Bayat, Ali Behrouz, Vahab Mirrokni, Aaron Courville
Proteus提出增量记忆激活机制，随上下文增长逐步扩展记忆容量。该方法可嵌入SWLA、Comba、Titans、Hope-Attention等模型，无需额外成本。在长上下文检索和理解任务上持续提升，且优势随长度增加而扩大。
AI模型ProteusSWLATitans
推荐理由：Proteus给长上下文模型加了个记忆开关，逐步解锁容量，让SWLA、Titans这些模型在长文本上表现更好，越长的上下文提升越明显。
原文
8月10日
11:10
11:10官方账号arXiv cs.AI@Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang
论文提出 TEPA，一种可撤销证据记忆机制，将有效性设为记忆的显式状态。在受控隐藏机制漂移的 50 次实验中，完整逆转时 append-only 和 last-write-wins 得分均为 0.210，无记忆为 0.309，而 TEPA 达到 0.950。真实文件执行场景再现同一模式：append-only 为 0.203，无记忆为 0.298，TEPA 为 0.950。在干净 MemoryAgentBench SH-6k 上，TEPA 匹配强 last-write-wins 缓存。多跳和长上下文边界测试暴露出检索链与上下文选择瓶颈，证明生命周期撤销是智能体记忆的核心操作。
论文TEPAMemoryAgentBench智能体
推荐理由：TEPA 这篇论文把记忆过期当成核心问题，用可撤销机制让智能体不被陈旧信息带偏。逆转测试里从 0.21 提到 0.95，效果很明显。
原文
8月4日
12:10
12:10官方账号arXiv cs.LG@Zhichen Liu, Ruihan Sun, Hengjie Yang, Zipeng Wu, Zhaohan Chen, Xiaofan Zhang, Yang Xu
72°
LiveMem为预训练全注意力大语言模型引入独立于活动上下文的记忆状态，主注意力路径只保留有界KV窗口。在LongMemEval基准上，LiveMem在对比系统中取得领先总分。即使支持证据已从当前上下文移除，LiveMem仍能依据记忆状态正确作答。证据距离分析表明，有用信息可持久保留在活动窗口之外。
论文LiveMemLongMemEval长上下文
推荐理由：论文提出LiveMem，给LLM加了个永久记忆状态，上下文窗口再长也不怕忘事。在LongMemEval上跑分领先，值得一看。
原文
7月28日
10:58
10:58官方账号arXiv cs.AI@Zefeng Cai, Zerui Cai
这篇论文研究了长时程智能体复用KV缓存作为记忆时的语义具体化现象。实验发现，在Qwen3-8B上，通过构造不含答案的事件，可将关联值恢复率从6%提升到51%。作者指出，被动从对话中提取自然提及没有检测到优势，而主动构造特定表述能显著影响记忆写入。结果表明，稀疏事件KV服务存在记忆契约：写入什么、落在哪里、源事件消失后保留什么，都有明确规律。
论文Qwen3-8BKV缓存记忆机制
推荐理由：论文用Qwen3-8B做实验，发现KV缓存里的事件行能独立保存计算视图，主动构造回答无关事件能让恢复率从6%跳到51%，对搞Agent记忆的人很有参考价值。
原文
7月17日
11:57
11:57官方账号arXiv cs.LG@Baback Elmieh, Lynn Tsai, Zeman Li, Srinivas Kaza, Tiancheng Sun, Gabor Csapo, Ali Behrouz, Yuan Deng, Stephen Lombardi, Steven M. Seitz, Xuan Luo
该方法将记忆更新与记忆应用解耦，记忆更新周期进行、记忆应用逐帧完成，并采用跨视角注意力处理记忆状态与当前帧之间的形变。引入辅助Memory Loss强制模型内化场景历史，Memory Caching策略防止主动权重灾难性漂移。在动态人体运动场景上实现实时处理，SOTA性能，支持分钟级在线记忆。
论文新视角合成动态场景记忆机制
推荐理由：这篇论文提出一种新的动态视角合成方法，通过分开记忆更新和应用的频率，实现了实时处理，而且能记住长视频里的短暂遮挡区域。
原文
6月30日
23:51
6月19日
00:35
00:35官方账号Microsoft Research@MSFTResearch
微软研究院的Subutai Ahmad和Nicolò Fusi与公司副总裁Doug Burger探讨人类记忆与机器智能的差异。他们发现Transformer架构能通过持续五小时的故事输入记住一个新密码。这项对比研究揭示了机器在长期信息保留上的独特优势。相关讨论视频已在Twitter上发布。
行业Transformer微软记忆机制
推荐理由：微软研究员拿Transformer和人类比记忆：听五小时故事，它能记住新密码，你行吗？看看具体差异在哪。
原文
6月17日
10:46
10:46官方账号arXiv cs.AI@Qi Chai, Wenhao Shen, Nanjie Yao, Yue Xia, Kaiyong Zhao, Jie Ma, Guosheng Lin, Hao Wang
EvolveNav 提出了一种自演化框架，用于零样本物体目标导航，无需预先训练。该方法通过构建代理规则记忆，从过往轨迹中提取可操作知识，并采用基于上置信界（UCB）的检索策略平衡语义相关性和历史成功率。还引入了记忆引导的前置反思模块，在行动前预测潜在结果，减少低效探索。实验表明，EvolveNav 在多个基准上超越现有零样本基线，成功率提升 10.1%，同时减少了不必要的步骤。
论文EvolveNav零样本物体导航
推荐理由：这篇论文搞了个EvolveNav，让机器人自己从失败中学习，零样本导航成功率直接涨了10%，而且没走那么多冤枉路。
原文
6月15日
10:22
6月13日
10:41
6月9日
13:11
13:11官方账号arXiv cs.LG@Wayne King, Zeyue Xue, Yuxuan Bian, Jie Huang, Haoran Li, Yaowei Li, Yaofeng Su, Yuming Li, Haoyu Wang, Shiyi Zhang, Songchun Zhang, Yuwei Niu, Sihan Xu, Junhao Zhuang, Haoyang Huang, Nan Duan
Echo-Memory 是一项针对动作条件世界模型中记忆机制的受控研究。这类模型根据首帧、文本提示和相机动作序列生成多段视频，但其主要失败点往往是记忆而非局部图像合成：当相机离开再返回时，场景或关键物体可能悄然改变。现有记忆设计难以比较，因为增益与骨干网络、训练、检索和评估差异纠缠不清。Echo-Memory 固定了动作到视频的接口，仅改变历史信息的存储和读取方式，在共享的视频扩散骨干、优化器、相机动作表示、采样器和评估流程下，比较了原始上下文、基于压缩的记忆、不同读取路径的空间摘要以及状态空间循环。研究通过三分支协议（回放质量、域内循环重访和开放域返回探测）评估记忆，发现回放保真度不足以作为记住世界的代理指标。主要结论包括：原始上下文是强大的容量基线，能显著提升开放域返回性能；紧凑性不能替代容量；块状状态空间循环是最强的开放域返回机制。
论文世界模型记忆机制视频生成
推荐理由：做视频生成或世界模型研究的团队，这篇论文帮你拆解了记忆机制中容量、压缩、读取和循环四个关键维度，看完能直接指导你的模型设计。
原文
6月4日
19:10
19:10rohanpaul_ai@rohanpaul_ai
精选72°
伊利诺伊大学和清华大学等实验室的研究发现，LLM智能体在持续重写自身记忆时，记忆会变得不可靠。许多智能体系统通过让LLM将混乱经验压缩成整洁教训来存储过往工作，但论文表明反复重写会逐渐损害记忆。原始经验（实际尝试和解决方案）往往比精炼后的教训更有用。在网页购物、模拟世界、应用使用和ARC-AGI谜题等任务中测试，GPT-5.4在无记忆时解决100%的ARC-AGI任务，但用正确解决方案构建记忆后，流式更新导致准确率降至约54%。失败源于错误分组、过度泛化和过拟合，记忆丢失细节、混淆任务类型或学习到仅适用于狭窄示例的规则。论文建议智能体记忆不应自动将每次经验重写为摘要，保留原始证据并仅偶尔制作摘要效果更好。
论文LLM智能体记忆机制可靠性
推荐理由：做AI智能体开发的团队会立刻警觉——你精心设计的记忆系统可能在悄悄退化。这篇论文用实验数据戳破了「自动总结记忆」的幻觉，建议所有用LLM做长期任务的开发者点开看看，别让记忆成为瓶颈。
原文
6月2日
11:08
11:08官方账号arXiv cs.AI@Xiang Li, Jiwei Wei, Ke Liu, Yitong Qin, Jinyu Guo, Malu Zhang, Peng Wang, Yang Yang
eMoT 提出了一种名为“演化思维记忆”的新框架，将推理轨迹视为动态演化的记忆而非静态模板，以解决大模型在多步推理中的幻觉和数值计算问题。该框架包含三个核心模块：记忆腐蚀机制（强化高效用推理结构并衰减低频结构）、符号锚定引擎（利用 Python 进行确定性计算，类似人类使用计算器）以及一致性驱动精炼过程（对齐神经推理与符号结果，减少逻辑偏差）。在 Game of 24 任务上，eMoT 达到 100% 准确率，比基线提升 17.6%；在 GSM8K、ASDiv、SVAMP 和 MGSM 等数学推理基准上也有持续改进。即使使用轻量级模型，eMoT 也优于依赖大规模模型的方法，表明性能提升主要来自框架的推理控制而非模型规模。
论文推理模型记忆机制符号锚定
推荐理由：eMoT 解决了大模型在多步推理中容易出错和产生幻觉的痛点，做推理增强或数学推理的开发者可以直接参考其记忆腐蚀和符号锚定机制，值得一试。
原文
5月17日
16:36
16:36Gary Marcus@GaryMarcus
一项新研究揭示，即使经过超万亿美元的投资，LLM智能体的记忆系统仍存在根本性缺陷。研究发现，持续更新的记忆（如压缩后的可复用记忆）不仅无法提升性能，有时甚至比完全没有记忆的表现更差，包括在已解决过的问题上。相比之下，保留原始片段的“情景记忆”更为可靠。这表明当前模型尚无法从经验中学习可复用的抽象知识，而这正是智能体持续改进的关键能力。
论文LLM智能体记忆机制可靠性
推荐理由：做AI智能体开发的团队值得关注——记忆机制是当前瓶颈，这篇论文直接挑战了“记忆越多越好”的假设，看完会重新思考你的记忆策略。
原文
5月13日
18:18