AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
精选
AI 自动挑选的高价值内容
全部模型产品行业论文技巧
标签:上下文地图×
5月20日
11:42
arXiv: OpenAI@Zhuohan Gu, Qizheng Zhang, Omar Khattab, Samuel Madden
精选67
PEEK 是一种为长上下文 LLM 智能体设计的系统,通过缓存和维护“上下文地图”来提升其在重复外部上下文(如文档库、代码仓库)中的表现。现有方法要么保留智能体的轨迹、被动访问原始材料,要么保留任务级策略,但都忽略了可复用的方向知识(如上下文内容、组织方式、历史有用的实体和模式)。PEEK 通过三个模块(Distiller、Cartographer、Evictor)将推理信号转化为结构化、固定大小的上下文地图,并嵌入智能体提示中。实验显示,PEEK 在长上下文推理和信息聚合任务上比强基线提升 6.3-34.0%,同时减少 93-145 次迭代,成本比最先进的 ACE 框架低 1.7-5.8 倍。在上下文学习任务上,PEEK 的解决率和评分准确率分别提升 6.0-14.0% 和 7.8-12.1%,成本仅为 ACE 的 1.4 倍,且泛化到不同语言模型和智能体架构。
论文长上下文智能体缓存策略上下文地图PEEK

推荐理由:PEEK 解决了长上下文智能体在重复场景中反复“从头探索”的痛点,做文档分析或代码库维护的开发者可以直接用,能显著降低推理成本并提升准确率。