Bias

general · First seen 2026-05-22 · Last seen 2026-10-20 · 103 mentions

Overview

Bias(偏差)指人工智能模型在输出或判断中表现出的系统性、非预期的倾向,例如对特定选项、立场或群体的偏好。随着大模型被广泛用作评审、排序与决策工具,模型自身的偏差是否可信、能否测量和校正,已成为 AI 可靠性研究的核心议题之一。

Bias 研究近期进展

  • 一项研究提出显式校正 LLM 评审偏差的新框架,用更少的成对对比即可恢复可靠的排名结果,见新框架显式校正 LLM 评审偏差,用更少对比恢复可靠排名。
  • 推理模型带来新变数:研究显示模型的思考过程能消解部分既有偏见,但同时会制造新的偏见,说明链式推理并非消除偏差的通用解,见研究显示推理模型的思考过程会消解部分偏见但制造更多新偏见。
  • 可解释性路线开始从机制层面解释 LLM-as-Judge 偏差的成因,为针对性修正提供依据,见Mechanistic Interpretability Account of LLM-as-Judge Bias。
  • 产业侧也在跟进,OpenAI 提出定义并评估 ChatGPT 政治偏见的新方法,试图把主观争议转化为可操作的测量框架,见OpenAI评估ChatGPT政治偏见新方法。
  • 当前焦点与观察点

    整体来看,Bias 研究正从"检测是否存在"转向"量化与校正":偏差感知的主动排序、显式校准框架与机制归因是三条主要路径。争议集中在推理过程反而引入新偏见,以及政治立场等主观维度如何建立中立评估标准。后续值得观察的是,这些校正方法能否在真实评审与生成场景中稳定复现,并与早期图像生成领域事前过滤降低偏差的思路形成互补。

    Coverage

    10 on file
    Bias · AI 话题观测|AI热报