ExtractBenchPro

product · First seen 2026-10-15 · Last seen 2026-10-19 · 11 mentions

Overview

ExtractBenchPro 是 LlamaIndex 推出的一个文档信息抽取基准测试,专注于评估 AI 模型在真实世界、长尾分布的文档上做结构化字段抽取的能力。与常见的人造数据集不同,它强调贴近生产环境的难度,因此被视为目前该领域最具挑战性的评测之一。

ExtractBench Pro 的近期进展

  • LlamaIndex 发布 ExtractBench Pro:文档提取基准:LlamaIndex 创始人 Jerry Liu 首次公开该项目,将其定位为面向真实文档抽取场景的评测工具。
  • 面向真实长尾文档抽取的基准:后续补充说明指出,该基准覆盖大量非典型、难处理的文档类型,而非标准化的理想样本。
  • 面向真实文档抽取的高难度基准:Jerry Liu 再次强调其难度定位——评测重点不是模型能否处理简单表单,而是能否在杂乱、多样、边界情况多的真实文档中稳定输出结构化结果。
  • Codex with Astra 仅得约 58%:报道给出的首个代表性成绩显示,即使是较强的前沿模型组合 Codex with Astra,在该基准上的得分也仅约 58%,与简单文档抽取任务中动辄 90% 以上的表现形成明显反差。
  • 当前焦点与观察点

    当前围绕 ExtractBench Pro 的讨论主要集中在三点:一是头部模型在真实文档抽取上仍有约四成的失败率,说明这类任务远未“解决”;二是基准是否会公开榜单并持续扩充长尾文档类型,直接影响其能否成为行业公认的评测标准;三是成绩差异能否映射到实际生产场景中的可靠性。对于需要在合同、发票、报告等文档上做结构化抽取的团队而言,这一基准提供了一个比常见学术数据集更贴近真实难度的参考坐标。后续值得关注的是各模型厂商是否会针对该基准公开成绩,以及 LlamaIndex 是否会配套发布评测方法与数据细节以便复现。

    Coverage

    6 on file