ExtractBench

product · First seen 2026-08-03 · Last seen 2026-10-19 · 67 mentions

Overview

ExtractBench 是 LlamaIndex 团队推出的文档信息抽取评测基准,用于衡量大模型和抽取智能体在真实场景文档中提取结构化信息的能力。与常见的问答或摘要类基准不同,它聚焦于长尾、格式复杂的实际文档,被定位为目前难度最高的文档抽取基准之一。

ExtractBench Pro 近期进展

LlamaIndex 创始人 Jerry Liu 近期在 X 上连续发布了多条关于该基准的动态。其中最受关注的一条是:LlamaIndex 发布文档抽取基准 ExtractBench Pro,Codex with Astra 仅得约 58%,约 58% 的得分说明即便是能力较强的通用系统,在面对真实文档抽取任务时仍有相当大的提升空间。

团队对该基准的定位表述包括“面向真实文档抽取的高难度基准”以及“面向真实长尾文档抽取的基准”,强调评测样本并非人工构造的规整文档,而是来自实际业务中格式多样、布局不规则的资料。基准的总体介绍见 LlamaIndex 发布 ExtractBench Pro,最难的文档抽取基准 与 LlamaIndex 发布 ExtractBench Pro:文档提取基准。

在发布基准之外,LlamaIndex 同期还推出了自家的文档抽取智能体 Extract v2.5 文档提取智能体,并在 LlamaIndex 用置信度分数决定文档提取自动化阈值 中介绍了 LlamaParse 的置信度分数机制——即用分数判断哪些抽取结果可以自动采信、哪些需要人工复核。

当前焦点与观察点

目前围绕 ExtractBench 的讨论主要集中在两点。其一是评测的真实性:用真实长尾文档而非模板化样本做评测,能更贴切地反映生产环境中的抽取质量,但也意味着分数会明显偏低,如何解读 58% 这类数字、以及各系统在该基准上的横向对比,是后续观察的重点。

其二是“评测 + 产品”的组合姿态:LlamaIndex 既发布基准,又同步推出 Extract 智能体和置信度自动化机制,这让它同时扮演裁判和选手的角色。基准是否会被第三方独立采用、是否会开源完整评测集与评分细则,将决定它能否成为文档抽取领域被广泛认可的参考标准。对关注结构化信息抽取的团队来说,ExtractBench 及其后续榜单值得持续跟踪。

Coverage

10 on file