Pairwise

general · First seen 2026-05-22 · Last seen 2026-10-20 · 19 mentions

Overview

Pairwise(成对比较)是机器学习与大模型评估中的基础方法:不直接给单个样本打绝对分数,而是让模型或人对两个候选结果两两比较、选出更优者,再由大量比较结果汇总出排序或胜率。在 LLM 竞技场式评测、偏好对齐(如 RLHF 的偏好建模)和 pairwise difference learning 等分类任务中,它都是主流范式。

Pairwise 方法的近期进展

  • Uncertainty Quantification in Pairwise Difference Learning for Classification:这篇 arXiv 论文研究分类任务中 pairwise difference learning 的不确定性量化问题,说明成对差分学习正从单纯追求判别性能,走向给出可信的置信度估计,这是其落地应用的关键一步。
  • Kimi-K3登顶Frontend Code Arena,胜率76%超越Claude Fable 5:Kimi-K3 在 Frontend Code Arena 上以 76% 的胜率超过 Claude Fable 5。这类竞技场榜单的排名正是基于海量 pairwise 人类投票计算的胜率得出,是成对比较方法在大模型评测中最具影响力的应用场景。
  • EmbDivBench:21 种嵌入多样性度量方法系统评测:该基准系统评测了 21 种嵌入多样性度量方法。其中不少度量依赖样本间的成对距离计算,反映出 pairwise 思想在表示学习评估中的渗透。
  • IdeaGene-Bench:科学思想谱系推理与生成基准测试:面向科学思想推理与生成的基准测试,涉及思想之间的谱系与比较关系,同样是成对关系建模的延伸场景。
  • 当前焦点与观察点

    Pairwise 评估的核心争议在于成本与偏差的权衡:两两比较比绝对打分更符合人类判断习惯、一致性更高,但比较次数随候选数量平方增长,且位置偏差、长度偏差和评审模型自身的偏好会污染结果。

    另一个趋势是 pairwise 信号从评测工具转变为训练信号——RLHF 和偏好优化直接以成对偏好数据驱动模型对齐,竞技场投票数据也成为稀缺资源。观察点集中在:胜率榜单能否修正评委模型偏差、pairwise difference learning 的不确定性估计能否标准化,以及成对评估在 Agent 评测(如 LangChain 团队分享的 Agent Evals 实践)中如何适配多步、开放式任务。

    Coverage

    10 on file