公平性

当前人工智能领域的公平性研究正从理论框架向实用技术演进，重点解决数据异质性和模型偏差带来的不公平问题。近期进展集中在三个方向：首先，针对联邦学习中不同客户端数据质量差异导致的贡献不公平，FedTSV方法利用轨迹Shapley值量化每个客户端的贡献，从而更合理地分配全局模型收益，提升了联邦学习的协作公平性（FedTSV：用轨迹Shapley值实现公平联邦学习）。其次，标签偏差是传统评分模型中的常见公平性问题，例如不同组别评分标准不一致，而可解释评分嵌入框架通过引入专家标准作为约束，缓解了标签偏差，使得评分结果更符合公平性要求（可解释评分嵌入缓解标签偏差：基于专家标准的表示框架）。此外，公平性还需考虑资源受限场景下的模型部署差异，蒸馏表格基础模型技术将大型健康数据预测模型的知识压缩至轻量模型，确保低资源设备也能获得准确且公平的预测结果，避免因算力不均导致的服务偏差（蒸馏表格基础模型：将健康数据预测能力压缩至轻量模型）。当前焦点在于如何平衡公平性与模型性能，并实际验证这些方法在金融、医疗等高风险领域的有效性。未来观察点包括：联邦学习中贡献度量的标准化、标签偏差消除的泛化能力，以及轻量模型在不同硬件上的公平性表现。