Agent 评估是指对 AI Agent(智能体)在真实任务中的表现进行系统性度量的方法与实践。由于 Agent 的执行过程是多步、非确定性的,传统单轮问答的评测方式难以直接套用,如何设计可靠的评估框架已成为当前 LLM 应用工程中的核心难题之一。围绕评估维度的选取、裁判模型的可靠性、以及评估如何融入开发流程,社区近期的讨论明显升温。
Agent 评估的近期进展
当前焦点与观察点
目前 Agent 评估的争议主要集中在裁判机制上。传统 LLM-as-a-Judge 依赖另一个生成式模型打分,存在评分不稳定、易被提示词影响等问题;JevEval 所代表的方向试图用确定性逻辑替代,但其能否覆盖开放性任务仍待验证。
另一个值得关注的趋势是评估的「左移」:Clay 的三维框架和 LangChain 的技能库都表明,评估正在从上线后的验收环节,前移为开发过程中的持续手段。随着编码智能体承担更多构建工作,工程师的职责重心可能进一步转向设计评估标准与解读评估结果。接下来可以观察 JevEval 类方法在实际生产中的采用情况,以及各大框架在评估工具标准化上的进展。