Bias(偏差)指人工智能模型在输出或判断中表现出的系统性、非预期的倾向,例如对特定选项、立场或群体的偏好。随着大模型被广泛用作评审、排序与决策工具,模型自身的偏差是否可信、能否测量和校正,已成为 AI 可靠性研究的核心议题之一。
Bias 研究近期进展
当前焦点与观察点
整体来看,Bias 研究正从"检测是否存在"转向"量化与校正":偏差感知的主动排序、显式校准框架与机制归因是三条主要路径。争议集中在推理过程反而引入新偏见,以及政治立场等主观维度如何建立中立评估标准。后续值得观察的是,这些校正方法能否在真实评审与生成场景中稳定复现,并与早期图像生成领域事前过滤降低偏差的思路形成互补。