LiteLLM 推出 Agent 轨迹分析功能 LiteLLM Lens
LiteLLM 新出的 Lens,能自动帮你查几万条 Agent 轨迹、聚类故障还带证据,数据存自家 ClickHouse,Codex 和 Claude Code 都能直接拉数据用。
LiteLLM 发布 LiteLLM Lens,可自动审查生产环境中的 Agent 运行轨迹,将相似问题聚类并输出带证据的改进建议。数据自托管在用户自己的 ClickHouse 中,通过无速率限制的 SQL/API 供 Codex、Claude Code 等编码工具直接消费。该功能瞄准 Agentic Swarm 开发者的观测困境:20 万+ 条轨迹人工审查不可行,且传统 tracing 平台(如 Datadog、LangSmith)存在数据锁定和 API 速率限制。工作流程分三步:开发者定义好坏运行标准,AI 分析轨迹并聚类,人工通过 Trace UI 复核下钻。官方表示可接入 Cerebras 等 100+ 提供商的模型来快速低成本分析大规模轨迹。
LiteLLM 推出了 Agent 轨迹智能分析功能「LiteLLM Lens」 它让 Agent 自动审查海量生产运行轨迹、聚类问题并给出带证据的改进建议,数据自托管在用户自己的 ClickHouse 中,且通过无速率限制的 SQL/API 让 Codex、Claude Code 等编码工具直接消费轨迹数据。 理解这个产品,关键在于理解 @LiteLLM 的既有生态位:它已经是企业 AI 流量的主要入口,所有 LLM 调用都经过它的网关。Lens 是在这个数据优势之上叠加的新一层能力:对海量 Agent 运行轨迹做自动化分析与诊断。 docs.litellm.ai/blog/litellm-l… 它针对的是一个新兴且真实的痛点「Agentic Swarm」开发者的观测困境: · 规模爆炸:成百上千个 Agent 并行运行,产生 20 万+ 条轨迹,人工审查在物理上已不可能。 · 故障取证困难:当蜂群失效时,证据散落在数千次运行中,定位根因如同大海捞针。 · 数据被平台锁定:传统 tracing 平台(暗指 Datadog、LangSmith 等)将数据锁在自家系统里,且施加 API 速率限制,这直接阻止了 Codex、Claude Code 这类 AI 编码工具去批量分析这些数据。 工作方式:三步闭环 1. 定义“什么是好/坏运行”:开发者针对每个 Agent 描述好坏标准,可细化到逐行提问,例如“找出 Agent 未能恢复的工具调用失败”。 2. Lens 用 AI 分析轨迹:AI Agent 自动审查轨迹、深入调查运行、将相似问题聚类分组,最终产出带“下一步建议 + 支撑运行证据”的诊断报告。 3. 人工复核与下钻:每条发现都链接回原始轨迹的确切步骤(输入、输出、属性);Trace UI 采用左侧行为树 + 右侧步骤 I/O 的经典双栏布局。 技术架构:数据主权是核心卖点 · 轨迹存储在 ClickHouse,由用户自托管,与 LiteLLM 网关部署在一起。 · 数据可用纯 SQL 直接查询,无黑盒。 · 提供面向 Agent 的 Tracing API,无第三方速率限制,Codex/Claude Code 可自由拉取分析。 Ishaan @ishaan_jaff If you're a developer building agents in production, @LiteLLM Lens Agent now lets you use @cerebras models (100+ providers) to analyze your traces and automatically improve your agents. Cerebras is great for analyzing 200K+ traces fast and cheap Figure out what’s failing and how to improve your agents, at scale. 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 0 👀 97 📊 1 ⚡