Pairwise(成对比较)是机器学习与大模型评估中的基础方法:不直接给单个样本打绝对分数,而是让模型或人对两个候选结果两两比较、选出更优者,再由大量比较结果汇总出排序或胜率。在 LLM 竞技场式评测、偏好对齐(如 RLHF 的偏好建模)和 pairwise difference learning 等分类任务中,它都是主流范式。
Pairwise 方法的近期进展
当前焦点与观察点
Pairwise 评估的核心争议在于成本与偏差的权衡:两两比较比绝对打分更符合人类判断习惯、一致性更高,但比较次数随候选数量平方增长,且位置偏差、长度偏差和评审模型自身的偏好会污染结果。
另一个趋势是 pairwise 信号从评测工具转变为训练信号——RLHF 和偏好优化直接以成对偏好数据驱动模型对齐,竞技场投票数据也成为稀缺资源。观察点集中在:胜率榜单能否修正评委模型偏差、pairwise difference learning 的不确定性估计能否标准化,以及成对评估在 Agent 评测(如 LangChain 团队分享的 Agent Evals 实践)中如何适配多步、开放式任务。