OpenRouter 推出 Tool Search:工具定义按需加载,省下输入 token
OpenRouter 出了个 Tool Search,函数标成 defer_loading 就能按需加载工具定义,不用每轮都为几百个工具定义付 token,还不加价。
OpenRouter 上线 Tool Search 功能。开发者把函数标记为 defer_loading 后,模型不再在每轮对话中加载全部工具定义,而是按需搜索调用所需的工具。对于挂载数百个 MCP 工具的智能体,这项功能直接省去每轮重复支付的工具定义输入 token 费用,且官方声明不额外收费。功能说明页面已挂在 openrouter.ai/tool/tool-search。
Tool search keeps large tool libraries out of the prompt. Mark your functions defer_loading and the model searches for the ones it needs, instead of paying input tokens for every definition on every turn. No extra charge. openrouter.ai/tool/tool-sear… 💬 1 🔄 0 ❤️ 1 👀 96 📊 1 ⚡