12:10
官方账号arXiv cs.LG@Zhichen Liu, Ruihan Sun, Hengjie Yang, Zipeng Wu, Zhaohan Chen, Xiaofan Zhang, Yang Xu
72°
推荐理由：论文提出LiveMem，给LLM加了个永久记忆状态，上下文窗口再长也不怕忘事。在LongMemEval上跑分领先，值得一看。
LiveMem
共 1 条相关 AI 资讯
8月4日
12:10
LiveMem为预训练全注意力大语言模型引入独立于活动上下文的记忆状态，主注意力路径只保留有界KV窗口。在LongMemEval基准上，LiveMem在对比系统中取得领先总分。即使支持证据已从当前上下文移除，LiveMem仍能依据记忆状态正确作答。证据距离分析表明，有用信息可持久保留在活动窗口之外。