AI产品精选72°

Hermes Agent 加入工具搜索,缓解 MCP 工具占满上下文问题

Hermes Agent 加入工具搜索,“AI 养马”更省 tokens

精选理由

做智能体开发的团队终于能省下大量 tokens 成本——Hermes Agent 的 Tool Search 直接解决了 MCP 工具税问题,建议用多工具服务的开发者试试。

AI 摘要

Nous Research 为开源 Hermes Agent 引入 Tool Search 功能,通过按需加载工具模式,解决 MCP 工具定义占用大量 tokens 的问题。Anthropic 报告显示,典型部署中工具模式可消耗约 50% 的 tokens,导致成本增加和准确率下降。启用 Tool Search 后,模型先搜索再加载参数,最后调用工具,Claude Opus 4 准确率从 49% 提升至 74%。该功能使用 BM25 算法匹配工具,并支持退回到字面子串匹配。

原文 · IT之家

Hermes Agent 加入工具搜索,“AI 养马”更省 tokens

IT之家 5 月 30 日消息,科技媒体 marktechpost 昨日(5 月 29 日)发布博文,报道称 Nous Research 为开源 Hermes Agent(Hermes 智能体)加入 Tool Search(工具搜索), 通过按需加载缓解 MCP(模型上下文协议)工具占满上下文的问题。 根据 Anthropic 在 2025 年 11 月发布的报告,在一个包含 5 台 MCP 服务器和 34 个工具的 Hermes 部署显示,平均每回合的提示符大小为 45000 个 tokens,其中大约 22000 个 tokens(约占 50%)仅仅是工具模式的开销。 Anthropic 在今年 4 月发布的论文中,指出在典型多服务器部署环境下,工具注意力(Tool Attention)是衡量“MCP 工具税”消耗的关键,优化前工具定义可消耗 134000 个 tokens,每回合消耗的 tokens 数量为 15000 至 60000 个。 这种“MCP 工具税”导致 2 个问题: 成本:会话开始时的缓存未命中生成每次可能花费 0.07 美元至 0.10 美元。 准确率下降:当模型同时看到数百个不相关的工具选项时,就会出现决策瘫痪。 Hermes Agent 为解决上述问题,引入 Tool Search 功能,是可选渐进式披露层,该模型不会预先加载所有工具架构,而是按需逐轮加载所需内容。 启用 Tool Search 后,模型可见工具数组中的 MCP 工具和插件工具替换为三个桥接工具: tool_search(query, limit?)   — search the deferred-tool catalog tool_describe(name)          — load the full schema for one tool tool_call(name, arguments)   — invoke a deferred tool 其中 tool_search 负责搜索,tool_describe 负责载入完整模式,tool_call 负责调用真实工具。模型先找工具,再看参数,最后调用目标工具。 典型的交互过程如下: Model: tool_search("create a github issue")   → { matches: [{ name: "mcp_github_create_issue", ... }] } Model: tool_describe("mcp_github_create_issue")   → { parameters: { type: "object", properties: { ... } } } Model: tool_call("mcp_github_create_issue", { title: "...", body: "..." })   → { ok: true, issue_number: 42 } 启用该工具后,能有效提升准确率,Anthropic 内部 MCP 评测显示,Claude Opus 4 在启用 Tool Search 后,准确率从 49% 提升到 74%。Claude Opus 4.5 也从 79.5% 提升到 88.1%,无关工具减少后,误选概率随之下降。 检索层使用 BM25(经典文本检索算法),匹配工具名、描述与参数名。若 BM25 没有返回正分结果,系统会退回到工具名的字面子串匹配,避免在所有工具名都含有相同词时出现零分问题。 IT之家附上参考地址 Tool Search Introducing advanced tool use on the Claude Developer Platform Tool Attention Is All You Need: Dynamic Tool Gating and Lazy Schema Loading for Eliminating the MCP/Tools Tax in Scalable Agentic Workflows