AITOP

上下文压缩

共 13 条相关 AI 资讯
8月18日
10:27
10:27官方一手arXiv: DeepSeek@Shuyu Liu
一项研究提出了新的测量协议，在固定24轮预算和确定性规划环境中评估上下文压缩对工具使用智能体交互成本的影响。实验覆盖三个模型和两种任务，发现检索调用在所有六种模型-任务组合中都增加，且几乎贡献了全部额外交互。5倍压缩时任务完成率无显著变化，但GPT-5.5的检索调用从21.0增至63.9次（p=.002），完成率从80%变为85%（p=1.0）。DeepSeek仅在接受10倍压缩时出现显著完成率下降。在ALFWorld环境中，压缩未引发检索激增，说明该交互成本依赖于具体任务环境而非上下文缩短本身。
论文上下文压缩智能体GPT-5.5
推荐理由：这篇论文用GPT-5.5和DeepSeek实测发现，压缩上下文会让智能体反复重新查工具，任务成功率却没变。想知道为什么只看完成率会骗人，可以读读。
原文
8月15日
04:08
8月4日
11:25
11:25官方一手arXiv: Anthropic@Hayder Tirmazi, Sam Markelon, Allison Bishop, Michael Mitzenmacher
精选
一篇arXiv论文首次对LLM上下文压缩进行形式化分析。作者提出两个博弈框架：Context Selection Game和Context Generation Game，分别对应子集保留和摘要生成两种压缩策略。论文证明Context Generation Game与单向通信复杂度等价，压缩预算等于同一误差下的单向通信复杂度。还证明存在一组查询，生成式压缩比选择式压缩需要更少预算。案例研究评估了Anthropic上下文压缩端点在一组集合成员查询上的表现。
论文上下文压缩通信复杂度智能体
事件专题
推荐理由：这篇论文把上下文压缩和通信复杂度打通了，还测了Anthropic的端点，适合搞Agent的人看看。
原文
10:10
8月2日
03:17
03:17宝玉@dotey
dotey 认为，为了省上下文而 handoff 新开 Session 的做法已过时，Codex 自身的上下文压缩或 /compact 已足够。他仍会在跨 Agent 场景用 handoff，例如把 Claude Code 未完成的 session 交给 Codex 继续。他习惯在 Claude Code 里用 Fable 5 写技术方案文档，配合 Codex 的 /goal 执行。他还强调要设严格验收标准，比如迁移任务要求 UI 像素级一致，否则 AI 会偷懒。他引用 Tz_2022 的两步 handoff 方法：任务后用提示词生成摘要，再在新 session 首条消息发给 AI，以省 token。
技巧CodexClaude Codehandoff
推荐理由：dotey 用实际经验讲清 handoff 和 /compact 怎么选，还给了防偷懒的验收标准，适合用 Codex 做连续任务的。
原文
7月31日
01:51
01:51Firecrawl@firecrawl_dev
精选
Firecrawl 发布新版 MCP，每次 /search、/scrape 和 /interact 调用减少 50% 上下文使用。新增 OAuth 即时用户登录和无密钥版本供智能体使用。该更新让开发者可在任何 MCP 客户端中获取优化后的网页上下文。
AI产品FirecrawlMCP智能体
推荐理由：Firecrawl 的新 MCP 把每次调用上下文砍半，还给了智能体无密钥版本，爬网页更省 token 了。
原文
7月30日
08:39
08:39官方账号OpenAI@OpenAI
OpenAI指出基准得分不仅反映模型本身，还依赖于测试工具和设置。对于长期运行智能体，保留推理和压缩上下文可帮助模型基于已有内容持续学习。该观点来自OpenAI官方博文，涉及评估方法论。
论文OpenAI智能体基准评估
事件专题
推荐理由：OpenAI聊了基准测试的细节：得分高低不只靠模型，还跟你用的工具和设置有关，长期智能体还能靠压缩上下文学得更久。
原文
7月23日
00:33
6月28日
01:25
6月11日
12:09
12:09官方账号arXiv cs.LG@Yeongseo Jung, Jaehyeok Kim, Eunseo Jung, Jiachuan Wang, Yongqi Zhang, Ka Chun Cheung, Simon See, Lei Chen
精选
现有对话模型在长对话中因历史累积导致计算冗余和注意力分散，简单截断或摘要会损失信息。研究者提出 C-DIC（Context-Driven Incremental Compression），将对话拆分为可修订的上下文线程，存储紧凑的对话记忆，并通过轻量级检索-修订-回写机制跨轮共享信息、更新过时记忆。该方法还适配了截断反向传播（TBPTT）来学习跨轮依赖，无需完整历史反向传播。实验表明，C-DIC 在数百轮对话中保持稳定的推理延迟和困惑度，为高质量长对话建模提供了可扩展路径。
论文对话系统上下文压缩长对话
推荐理由：长对话场景（如客服、角色扮演）的开发者终于有了一个兼顾效率与保真度的压缩方案——C-DIC 能稳定处理数百轮对话，值得在长上下文任务中试试。
原文
6月9日
11:03
11:03官方账号arXiv cs.AI@Ang Li, Sean McLeish, Haozhe Chen, Nimit Kalra, Zaiqian Chen, Artem Gazizov, Venkata Anoop Suhas Kumar Morisetty, Bhavya Kailkhura, Harshitha Menon, Zhuang Liu, Brian R. Bartoldson, Tom Goldstein, Sanae Lotfi, Micah Goldblum, Pavel Izmailov
精选
长上下文语言模型推理受限于内存，KV缓存随上下文长度增长。现有压缩方法要么降低模型质量，要么需要大量计算。本文提出Latent Context Language Models (LCLMs)，一种编码器-解码器压缩器，通过架构搜索和预训练350B+ tokens，实现1:4、1:8、1:16压缩比。LCLMs在通用任务性能、压缩速度和峰值内存使用上均优于现有方法，并可作为长时智能体的高效骨干，支持自适应扩展相关片段。
论文上下文压缩KV缓存长上下文推理
推荐理由：长上下文推理的内存瓶颈终于有了一个兼顾质量与速度的解法，做LLM推理优化或长时智能体的开发者值得关注，LCLM的压缩方案可以直接用于生产环境。
原文
5月19日
11:07
11:07官方账号arXiv cs.LG@Junyi Wu, Tianchen Zhao, Shaoqiu Zhang, Linfeng Zhang, Guohao Dai, Yu Wang
精选
扩散语言模型（dLLM）通过联合去噪一批[MASK]令牌实现并行解码，但大块掩码令牌导致大量计算冗余。研究发现，许多计算花费在重复处理前文上下文和特征表示相同的[MASK]令牌上。为此，提出位置保持的[MASK]令牌压缩和终端感知增强方法，通过压缩冗余计算加速解码，并自然扩展到长上下文场景。在LLaDA-8B-Instruct和LLaDA-1.5等全序列dLLM上验证了效果，对LLaDA2.0-mini等块dLLM，通过保护终端[MASK]令牌增强上下文，以极小开销提升生成质量。
论文扩散语言模型上下文压缩并行解码
推荐理由：扩散LLM的并行解码效率一直是痛点，这篇工作直接戳中计算冗余的核心，做模型推理加速或长上下文应用的开发者值得关注，压缩方法可以直接集成到现有dLLM中。
原文
5月14日
15:39
15:39IT之家（博客/媒体）
精选
腾讯云正式开源 TencentDB Agent Memory，面向 Agent 长任务场景提供短期记忆压缩与长期个性化记忆能力。该方案通过“上下文卸载”和 Mermaid 任务画布技术，将完整信息卸载到外部存储，同时以结构化任务图保留关键状态，使 Agent 在长任务中保持轻量上下文。在多任务连续 Session 实验中，最高降低 61% Token 消耗，并提升任务成功率。项目已适配 OpenClaw 和 Hermes 等主流 Agent 框架，支持一键集成，默认使用本地 SQLite 存储，零外部依赖。
AI产品腾讯Agent Memory开源/仓库
事件专题
推荐理由：做 Agent 长任务开发的团队终于有了省 Token 又保精度的开源方案——上下文卸载加任务画布让 Token 消耗降 61% 的同时成功率还上升，建议直接集成试试。
原文