LLM Agent 相关 AI 资讯

7月28日

12:15

官方账号arXiv cs.AI@Arseny Kravchenko, Vadim Liventsev, Innokentii Konstantinov, Ildar Iskhakov, Matvey Kukuy

arXiv论文提出APPA（Agentic Permissions Policy Algebra），一种动态信息流控制（IFC）框架，解决传统污点追踪在LLM Agent中因永久污染上下文导致效用下降的问题。APPA通过引擎管理的上下文分支和前瞻性获取执行，在读取未验证数据前评估标签降级并生成补救计划（授权、接受）。该框架在多项工具调用基准上对四个模型评估，将攻击成功率从31%-50%降至0%-7%，且分支机制恢复了大部分因污点追踪丢失的效用。

推荐理由：这篇论文讲了个新方法APPA，能让LLM Agent安全地处理混合敏感数据，既防提示注入又不牺牲太多功能。

原文

12:11

官方账号arXiv cs.AI@Hang Ni, Weijia Zhang, Fan Liu, Mengqian Lu, Hao Liu

SIREN-Bench基准包含600个问答实例、19个任务，覆盖4个独立预警流程和1个端到端预警链。现有天气智能体框架在SIREN-Bench上表现出显著能力差距。研究者提出SIREN，一种结合历史案例检索、技能蒸馏和预测建模的经验驱动智能体框架。实验显示SIREN在独立预警流程和端到端预警链上均超越基线。该框架利用异构天气证据和工具集成环境，提升预警自动化水平。

论文 SIREN 极端天气 LLM Agent

推荐理由：想了解LLM智能体在极端天气预警中怎么用？这篇论文建了个600题的基准，还搞了个历史案例驱动的框架，比现有方案强不少。

原文

7月27日

12:20

官方账号arXiv cs.AI@Darshan Tank, Baran Nama

该论文分析LLM Agent添加技能后的双面影响，基于近6,000次实验和两个办公自动化基准（如OfficeWorld和MiniWoB++），发现技能导致的回归（先前能完成的任务失败）频率高到足以使最佳技能的优势主要来自更少回归而非更多增益。论文识别三种回归原因：技能描述渗透（仅在上下文中存在即改变行为）、接地位移（技能流程覆盖输入解释）和验证位移（流程抑制输出检查）。分析持续失败发现现有技能过度强调程序指导（失败主因并非在此），而接地和验证支持不足。通过纠正评估伪影和轨迹分析，许多回归和持久失败可通过更好的接地和验证恢复。

论文 LLM Agent 回归效应接地位移

推荐理由：这篇论文用大量实验告诉你，给Agent加技能可能适得其反。它揭示了三个具体原因，并指出减少回归比堆砌技能更重要，值得每个开发者读一读。

原文

7月14日

09:51

官方账号arXiv cs.AI@Yuan Gao, Jiangyi Yang, Yao Zhao, Yichi Zhang

本文在9人狼人环境中评估LLM智能体，构建了可审计框架以维护外部信念状态并记录信念更新与行动偏差。在1080局游戏中，主动信念条件使好人方胜率从0.205升至0.390（McNemar χ²=16.4, p<0.001），且不可逆的女巫毒药错误减少。但行动-信念一致性仅约0.21，且仅将信念给狼人比仅给好人更有利，表明机制未明。该框架使效应可测量，暴露低一致性，并以证据拒绝不可靠的强制消费干预，将信念定位为高噪声隐藏信息游戏中的可审计认知基线。

论文 LLM Agent Werewolf 智能体

推荐理由：这篇论文把LLM智能体在狼人杀中的信念和行为拆开审计，发现加信念能让好人胜率从20%提到39%，但行动和信念不太一致，框架本身是个好工具。

原文

7月13日

10:43

官方账号arXiv cs.AI@Kaiji Zhou, Ales Leonardis, Yue Feng

Agora是一种新提出的框架，引入激励相容的拍卖机制，将推理步骤视为可交易物品，让专家模型和工具基于修正后的胜任度进行竞标，从而将关键逻辑分配给最合适的求解器。在五个基准测试上的评估显示，Agora在可比候选池下优于匹配的单模型、路由和级联基线。该框架通过单个拍卖参数实现可控的成本-质量权衡。

论文 Agora LLM Agent 拍卖机制

推荐理由：想提升LLM Agent推理效率？Agora用拍卖机制动态分配任务给专家模型，在五个基准上都比传统路由强，还能平衡成本和效果。

原文

7月8日

12:12

官方账号arXiv cs.AI@Kai Ruan, Zihe Huang, Ziqi Zhou, Qianshan Wei, Xuan Wang, Hao Sun

该论文利用LLM Agent每轮隐藏状态的探针（probe），在任务早期预测最终失败。在TextCraft基准上，Recall-Controlled Probe Cascade以90%召回率目标为Qwen-2.5-7B节省47.1%推理计算，为Llama-3.2-3B节省37.2%。相比仅基于行为的方法，节省量高出1.6-1.7倍。论文还推导了保证高召回率所需的样本复杂度。

论文 LLM Agent Qwen-2.5-7B Llama-3.2-3B

推荐理由：这篇论文告诉你如何从模型内部状态提前看出agent会失败，比看外部行为省算力多了，实测省三到四成。

原文

6月30日

15:13

官方账号arXiv cs.LG@Jun Wen Leong

研究发现LLM Agent在持续记忆中毒攻击下存在行为不变性：成功攻击必须调用memory_recall_fact后再调用email_send_email。仅凭该规则的检测AUC达0.9563，基于19个轨迹特征的随机森林分类器将AUC提升至0.9904（BCa 95% CI [0.987, 0.993]）。跨9个模型（7B-120B参数）验证，6/9的留出测试AUC为1.000。该签名可泛化至GPT-4.1和GPT-4o等前沿模型，无需重新训练。通过工具调用日志即可区分记忆通道攻击与提示注入攻击。

论文 LLM Agent 记忆中毒行为检测

推荐理由：这篇论文发现了一个简单规律就能检测AI Agent的记忆中毒攻击，准确率高达99%，还能区分不同攻击类型，非常实用。

原文

6月15日

11:12

官方账号arXiv cs.AI@Wei Wu

论文对自2026年3月持续生产的个人助手LLM Agent运行时进行8周纵向研究，系统包含约40个定时任务、8个LLM供应商、4286个单元测试和827个治理检查。记录22起事故，识别出至少28次“静默故障”实例，归纳为5类机制导向分类（A环境平台异常、B设计假设不匹配、C错误吞噬稀释、D链式幻觉与捏造、E操作遗漏与取证盲点）。D类为LLM特有且最危险——系统不仅不报告错误，还将其转化为流畅可信的叙事呈现给用户，作者称为“fail-plausible”。关键发现：约70%静默故障由人类用户视角观察发现而非测试或审计捕获；事故延迟从13小时到60天不等，与故障机制相关而非代码复杂度。

论文 LLM Agent silent failures taxonomy

推荐理由：彻底揭示LLM Agent为何会‘平静地撒谎’

原文

6月9日

10:41

官方账号arXiv cs.AI@Rakibul Hasan Rajib, Mengxin Zheng, Qian Lou

精选72°

多轮LLM Agent服务将无状态请求处理转变为有状态程序执行，需要调度、KV缓存管理和路由策略利用程序级上下文。直接在真实系统上评估这些策略成本高昂，而现有模拟器仅针对无状态请求。AGENTSERVESIM 是一个硬件感知模拟器，通过程序编排器、工具模拟器、会话感知路由器和KV驻留模型等模块，在程序粒度上评估服务策略。在真实部署和硬件配置下，AGENTSERVESIM 在关键性能指标上误差小于6%，且完全在普通CPU上运行。该工具使得无需在昂贵加速器上大规模部署即可进行可控、可重复的Agent服务策略探索。

论文 LLM Agent 模拟器 KV缓存

推荐理由：做LLM Agent服务部署和优化的团队，终于有了一个低成本、高精度的模拟工具来测试调度和缓存策略，不用再烧GPU时间试错，建议直接看论文细节。

原文

09:27

官方一手arXiv: DeepSeek@Xiaojun Wu, Cehao Yang, Honghao Liu, Xueyuan Lin, Wenjie Zhang, Zhichao Shi, Xuhui Jiang, Chengjin Xu, Jia Li, Jian Guo

精选

Bayesian-Agent 是一个跨框架的 LLM Agent 技能优化框架，它将可复用的技能和 SOP 视为关于冻结模型在特定提示、上下文和环境下能否成功的假设。该框架记录验证过的轨迹证据，维护每个技能的特征条件分类后验，并根据后验状态执行修补、拆分、压缩、退役和探索等操作。在 deepseek-v4-flash 上，增量修复将 SOP-Bench 从 80% 提升至 95%，Lifelong AgentBench 从 90% 提升至 100%，RealFin-Bench 从 45% 提升至 65%。该框架还支持 GenericAgent、mini-swe-agent 和 Claude Code 等后端，表明 Agent 技能进化应视为后验引导的优化，而非未校准的提示积累。代码已开源。

论文 LLM Agent 技能进化后验引导

推荐理由：做 LLM Agent 开发的团队终于有了一个系统化的技能进化方法，不用再靠试错和启发式反思——Bayesian-Agent 用后验概率指导优化，效果显著且可审计，建议直接看论文和代码。

原文

6月2日

12:02

官方账号arXiv cs.AI@Yuhua Liao, Zetian Wang, Qiangqiang Nie, Zhenhua Zhang

时间序列预测在基础模型支持下取得了快速进展，但统计预测结果往往需要结合业务上下文（如节假日、活动计划、外部事件等）才能成为决策就绪的预测。本文提出了“最后一公里预测”问题，并设计了一个基于 LLM Agent 的框架，该框架在预测模型之上运行，维护统一的工作空间，调用工具检索上下文证据，并在结构安全约束下将推理轨迹转化为显式的预测修订动作。系统还支持通过 map-reduce 分解进行长周期预测，并通过记忆库进行事后反思，确保可控和可审计。实际案例表明，LLM Agent 能有效弥合统计预测与业务就绪预测之间的差距。

论文时间序列预测 LLM Agent 业务上下文

推荐理由：做时间序列预测的团队终于有了一个能处理业务上下文的实用方案——LLM Agent 自动整合节假日、活动等非结构化信息，让统计预测直接变成决策可用的结果，值得做预测的开发者点开看看。

原文

11:12

官方账号arXiv cs.AI@Lichao Wang, Zhaoxing Ren, Tianzhuo Yang, Jiaming Ji, Chi Harold Liu, Yaodong Yang, Juntao Dai

SafeMCP 是一个服务器端防御插件，针对 LLM Agent 使用 MCP 协议时因动作空间扩大带来的安全风险。它通过内部世界模型进行前瞻推理，实现两层防御：主动工具过滤限制危险权限扩展，以及即时干预作为故障安全机制。训练采用三阶段流程：环境动态基础、安全策略初始化和带双重可验证奖励的强化学习。在 PowerSeeking Bench、ToolEmu 和 AgentHarm 上的实验表明，SafeMCP 能在降低风险的同时保持 Agent 的实用性。

论文 MCP/工具 LLM Agent 安全防御

推荐理由：做 LLM Agent 安全防护的团队终于有了一个可落地的方案——SafeMCP 在服务器端用前瞻推理主动过滤危险工具调用，比事后审计更有效，建议关注其开源实现。

原文

6月1日

10:49

官方一手arXiv: DeepSeek@Xiaonan Xu, Wenjing Wu

精选

一篇来自 arXiv 的论文系统研究了技能文档的呈现粒度对大型语言模型智能体任务成功率的影响。实验基于 SkillsBench 基准，包含 30 个领域平衡的任务，测试了 GPT-5.5 和 DeepSeek V4-Flash 两种模型。结果显示，提供技能文档相比无技能条件，任务平均通过率提升 18 到 36 个百分点，效果显著。然而，技能文档的抽象程度（低抽象 vs 高抽象）以及是否包含示例对成功率的影响很小且统计上不显著。该研究表明，技能可用性是关键因素，而呈现细节的调整影响有限且依赖模型。

论文 LLM Agent 技能文档任务成功率

推荐理由：做 LLM Agent 开发的团队终于有了实证依据：给智能体塞技能文档比纠结怎么写更管用。建议直接参考这个实验设计来优化自己的 RAG 或工具调用策略。

原文

5月20日

10:09

官方账号arXiv cs.AI@Dmitry Redko, Albert Fazlyev, Konstantin Sozykin, Maria Ivanova, Evgeny Burnaev, Egor Shvetsov

精选

该研究通过三个受控实验，系统评估了 LLM Agent 在硬件感知代码优化中的表现。研究发现，LLM 在纯黑盒优化中表现为贪婪优化器；在零样本内核生成中，提供显式输入大小信息没有可测量的效果，模型会收敛到相同的内核参数；在反馈循环优化中，CUDA 在迭代反馈下单调改进，而 TVM IR 则主动退化。结论表明，LLM 在代码优化任务中高度依赖预训练先验知识，而非提供的反馈或智能体结构。

论文 LLM Agent 代码优化硬件感知

推荐理由：做 AI 编译器或硬件优化的开发者会关心——LLM Agent 的搜索能力被高估了，实际表现受限于预训练数据分布，直接套用反馈循环可能适得其反，建议先看实验设计再决定是否采用。

原文

5月19日

10:28

官方一手arXiv: Anthropic@Aman Desai

精选

RooAgent 是一个基于 LLM 的智能体，为高能物理领域的 Root 数据分析提供自然语言接口。它将物理分析功能封装为工具，LLM 根据用户自然语言指令调用这些工具。支持两种模式：基于 LangGraph 的 Agent（兼容 GPT-4.1 和 DeepSeek-V3），以及 MCP 服务器模式（兼容 Claude Sonnet 4.6）。功能包括直方图检查、事件选择、运动学分布可视化、拟合和显著性估计。已在多个模拟和 ATLAS 开放数据上验证，代码开源在 GitHub。

AI产品 RooAgent 高能物理 LLM Agent

推荐理由：高能物理研究者终于可以用自然语言做 Root 分析了——RooAgent 把复杂的 PyRoot 操作封装成 LLM 可调用的工具，做粒子物理数据分析的团队可以直接试，省去手写大量脚本的麻烦。

原文

5月18日

12:12

官方账号arXiv cs.AI@Ziang Ye, Wentao Shi, Yuxin Liu, Yu Wang, Zhengzhou Cai, Yaorui Shi, Qi Gu, Xunliang Cai, Fuli Feng

精选72°

论文指出基于大语言模型的智能体在陌生环境中常因过早利用先验知识而失败，提出自主探索能力是关键但被忽视的环节。作者引入可验证的探索检查点覆盖率指标，量化智能体发现关键状态、物体和功能的能力。实验发现标准任务导向强化学习训练出的智能体行为狭窄重复，阻碍下游性能。为此提出探索-执行交替训练策略，并构建先探索后行动的范式，让智能体先利用交互预算获取环境知识再执行任务。结果表明系统学习探索对构建通用、真实世界可用的智能体至关重要。

论文智能体自主探索强化学习

推荐理由：这篇论文直击 LLM Agent 在陌生环境中的核心短板——过早行动，做智能体开发或强化学习的研究者值得一读，提出的探索-执行范式可以直接启发你的训练策略。

原文

5月16日

16:11

Harrison Chase@hwchase17

LangChain 联合创始人 Harrison Chase 在 X 上分享了一个新项目：为 LLM Agent 构建类似 Dependabot 的故障自动修复系统。该项目利用 LangSmith Engine 作为“烟雾探测器”，并计划增加“自动喷淋系统”——即带人工审批的自动修复流程。整个流程分为四个阶段：分类（Classify）→ 补丁（Patch）→ 评估（Eval）→ 影子测试（Shadow）。这填补了 LLMOps 生态中一个真实空白，让 Agent 故障不再需要手动排查和修复。

AI产品 LangChain LangSmith LLM Agent

推荐理由：LLM Agent 的故障排查和修复一直是运维痛点，这个方案让做 Agent 部署和运维的团队能像用 Dependabot 一样自动化处理问题，值得关注后续进展。

原文