AITOP

公平性

共 14 条相关 AI 资讯
8月11日
12:48
12:48官方账号arXiv cs.LG@Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk
Mattos等人2025年提出，人口统计均等（Δ_DP）无法检测链接排名中的曝光偏差。本复现研究证明，即使某些子群链接被系统排名靠后，Δ_DP仍可能显示总体均等。研究验证了排名感知的归一化KL散度（NDKL）能有效检测此类差异，并复现了后处理方法MORAL在保持效用的同时改善曝光公平性。实验覆盖合成同质性设置、分类敏感属性及多种公平性指标，结果显示MORAL在多样场景中仅以极小效用损失减少偏差。代码已开源。
论文链接预测公平性NDKL
推荐理由：想搞懂链接预测公平性指标怎么选？这篇复现研究告诉你Δ_DP会漏掉排名里的偏见，NDKL和MORAL才是真能打的。
原文
8月5日
11:30
8月4日
12:49
12:49官方账号arXiv cs.AI@Zeshen Zheng, Yujia He, Qianmian Lin, Xiangyue Huang, Wenqing Chen
这篇论文关注开放生成任务中的公平性评估，指出当模型生成“美国CEO”时，缺乏明确的人口统计目标分布。作者将目标构建拆解为评估对象、先验可采纳性、分配和操作化四个承诺，并在地理成员解释下允许地理先验。在AP-Bench基准上，地理派生目标与生成结果存在0.508至0.606的分布差异；改用等类别对照后，模型特定的JSD2变化范围达0.279至0.355。论文表明目标构建本身是公平性评估的组成部分，而非评估前的附属步骤。
论文AP-Bench公平性生成模型
推荐理由：如果你是搞生成模型评测的，这篇论文指出了公平性评估里常被忽略的问题：该拿什么目标分布去比。它给了个框架，还附了AP-Bench的具体数值。
原文
7月31日
12:34
12:34官方账号arXiv cs.LG@Sparsh Roy, Samuel Girmachew, Nishita Chavan
KAISEN是一种针对临床风险模型的五阶段公平性审计流程，在包含16个疾病任务和15个健康社会决定因素轴的合成基准上测试。研究发现，显著性计数与原始均等化赔率差（EOD）的秩相关为0.56，按最小可检测效应标准化后升至0.78。每组的阈值优化在48次运行中全部降低EOD（配对差值-0.285），而组级Platt缩放的EOD改善仅19/48次。机制诊断在144个受控案例中全部正确，但在48个模型驱动案例的代理设定错误下全部失败。CUSUM警报和漏报主要受队列随机种子影响（卡方p=0.002），阈值无法跨队列迁移。
论文KAISEN公平性临床风险模型
推荐理由：KAISEN把公平性审计拆成五个阶段，用合成数据测出哪个环节会失效。阈值优化靠谱，但Platt缩放和机制诊断有坑。
原文
7月21日
11:47
11:47官方账号arXiv cs.LG@Kyungseon Lee, Hankyo Jeong, Kunwoong Kim, Kwanho Lee, Yongdai Kim
论文定义了子组公平性差距，并推导出协方差代理精确匹配该差距。提出COVA-FC算法，通过连续松弛实现梯度优化，解决多敏感属性下子组数量指数增长和少数实例问题。实验在基准数据集上显示COVA-FC在成本和公平性之间取得竞争性权衡，并在子组和更高阶边际设置中提升计算效率。
论文COVA-FC聚类公平性
推荐理由：这篇论文用协方差方法解决了子组公平聚类的计算难题，COVA-FC比现有方法更快更稳定，做公平聚类研究可以看看。
原文
7月17日
09:23
09:23官方账号arXiv cs.LG@Ku Onoda, Paavo Parmas, Hiroki Furuta, Soichiro Nishimori, Yuta Oshima, Shohei Taniguchi, Yutaka Matsuo
文本到图像模型如SD3.5-M对同一提示常生成有限视觉模式的图像，加剧人口统计偏斜。论文形式化目标为target-mode覆盖，提出多轴Max@K强化学习目标。该方法对每组样本取每个类别的最大分数并求和，分配正权重仅当样本提升该类别的组最大值。在SD3.5-M上使用确定性颜色奖励验证信用分配机制后，在三个自动评估器上公平性分数相对于基础模型提升0.23-0.36，同时保持图像质量和文本对齐。
论文SD3.5-M文本到图像生成公平性
推荐理由：这篇论文用多轴Max@K强化学习，让T2I模型生成更公平多样的人像，公平分提升0.23-0.36，不牺牲质量。
原文
7月14日
10:55
10:55官方账号arXiv cs.LG@Johannes Kruse, Kasper Lindskow, Michael Riis Andersen, Ryotaro Shimizu, Julian McAuley, Pierre-Alexandre Mattei, Jes Frellsen
NAILS是一种简单可扩展的方法，通过内部标签转移将推荐系统输出与物品属性的目标分布对齐。它不需要重训练现有模型，只修改用户条件物品分布来诱导指定的边际分布。实验在多个推荐基准上显示，NAILS能持续改善属性级对齐度，且对用户参与度影响极小。该方法适用于公平性、多样性等规范性目标。
论文NAILS推荐系统规范对齐
推荐理由：NAILS不用重训练就能让推荐结果更符合公平、多样性的规范，而且几乎不牺牲用户参与度，很实用。
原文
6月19日
10:56
10:56官方账号arXiv cs.LG@Bruno Scarone, Alfredo Viola, Renée J. Miller
该论文针对机器学习模型在种族和性别等交叉敏感属性上表现出的歧视问题，提出了一种扩展的偏差缓解框架。该框架引入覆盖约束，确保训练数据中交叉子群有足够代表性。通过将偏差缓解表述为整数线性规划，量化了公平性代价（最小数据修改成本作为公平容忍度的函数）。在公开数据集上的实验表明，该方法能在保留预测精度的同时，通过容忍小近似偏差提高数据效率，并满足覆盖约束对下游性能的保护。
论文公平性偏差缓解覆盖约束
推荐理由：这篇论文想办法解决交叉群体数据少导致的模型歧视，搞了个框架能平衡公平和成本，还告诉你修改多少数据能换多少公平。
原文
6月17日
12:00
12:00官方账号arXiv cs.LG@Umer Siddique, Peilang Li, Yongcan Cao
该论文研究多目标强化学习（MORL）中的公平性优化问题。传统单策略方法使用广义基尼福利函数（GGF）只能处理固定用户偏好，缺乏策略多样性。作者证明对于凹分段线性福利函数（如GGF），公平策略仍属于凸覆盖集（CCS）。提出三种新算法：集成GGF的多策略多目标Q学习（MOQL）、状态增强多策略MOQL及随机策略扩展。在多个领域实验表明，该方法能学习一组适应不同用户偏好的公平帕累托最优策略。
论文MORLGGF多目标强化学习
推荐理由：这篇论文提出了在MORL中兼顾最优和公平的新方法，用GGF和三种算法生成多样化的公平策略，比传统单策略方法更灵活。
原文
6月10日
09:26
09:26官方账号arXiv cs.LG@Vojtěch Staněk, Eva Trnovská, Kamil Malinka, Anton Firc
该论文对39个深度伪造语音数据集进行了系统性审计，发现大多数数据集缺乏人口统计元数据（如性别、语言标签），导致公平性评估几乎不可行。此外，不同数据集之间存在大量底层真实语音源语料库的重叠，这会削弱跨数据集评估的有效性，并导致泛化能力被高估。研究揭示了当前深度伪造语音检测领域在数据多样性和评估严谨性上的关键缺陷。
论文深度伪造语音检测数据集审计
推荐理由：做语音安全或深度伪造检测的研究者会发现，现有数据集的公平性和泛化性评估可能建立在脆弱基础上——这篇审计直接点出了数据层面的系统性漏洞，值得在选数据集或写论文时参考。
原文
6月1日
10:38
10:38官方账号arXiv cs.AI@Arnau Marin-Llobet, Simon Henniger, Mahzarin R. Banaji
精选
研究发现，视觉语言模型（VLM）在处理性别模糊的图像（如全副武装的工人、背影）时，即使内部编码了女性关联，输出仍倾向于男性，尤其在传统女性职业上表现明显。研究者提出零样本指标LALS，通过将视觉token激活投影到文本嵌入空间，逐层测量概念关联。实验覆盖15个职业、800多张模糊图像和4个VLM，发现模型内部存在不对称过滤：男性信号从头到尾增强，女性信号在中间层达到峰值后被压制。服装颜色等文化线索会进一步调节内部关联。这项研究揭示了VLM在模糊输入下的性别偏见机制，对AI公平性评估有重要启示。
论文视觉语言模型性别偏见LALS
推荐理由：做AI公平性研究或模型对齐的团队，这篇论文直接戳破了VLM在模糊输入下的性别偏见黑箱——LALS方法让你能逐层看到模型内部编码与输出的脱耦，建议做模型审计的开发者点开看看具体实验设计。
原文
5月29日
12:12
12:12官方账号arXiv cs.LG@Daniel Kuznetsov, Ziqi Wang
联邦学习面临客户端贡献不均和动态变化的问题，传统固定权重聚合方法导致学习偏差和不稳定。本文提出轨迹Shapley值（TSV），一种基于验证集和时序一致性的贡献度量，能评估每个客户端对全局模型优化轨迹的影响。基于TSV，作者设计了FedTSV自适应聚合方法，将每轮评估转化为动态客户端权重，实时应对异构和对抗性参与。在基准数据集上的实验表明，FedTSV加速收敛、提升鲁棒性，并实现更公平的贡献评估，为公平感知联邦优化提供了理论基础。
论文联邦学习公平性Shapley值
推荐理由：联邦学习团队终于有了一个能动态衡量客户端贡献的方法——FedTSV解决了固定权重带来的不公平和训练不稳定问题，做分布式模型训练的开发者可以直接参考实验效果。
原文
5月21日
12:17
12:17官方账号arXiv cs.LG@Calvin Isley, Johann D. Gaebler, Sharad Goel
精选
在招聘、大学录取等难以获得真实标签的领域，模型常依赖历史人工评估训练，但历史评估可能包含对特定群体的偏见。本文提出用专家定义的标准（评分嵌入）替代传统黑盒嵌入作为预测基础，使模型锚定在语义有意义的维度上，从而避免继承偏见。理论和实验证明，该方法在合理条件下能有效缓解标签偏差。在大型硕士项目申请数据集上，基于评分嵌入的模型减少了群体差异，同时提升了录取群体的整体质量。
论文标签偏差可解释性公平性
推荐理由：做公平性AI或高利害决策系统的团队，这篇给出了一个可落地的方案——用专家评分嵌入替代黑盒特征，既减少偏见又提升质量，值得细读。
原文
5月19日
14:29
14:29官方账号arXiv cs.AI@Aditya Tanna, Nassim Bouarour, Mohamed Bouadi, Vinay Kumar Sankarapu, Pratinav Seth
精选
表格基础模型在健康数据集上表现优异，但高推理成本和基础设施需求限制了实际应用。研究者提出通过知识蒸馏将预测能力转移至轻量表格模型，并针对上下文表格模型在推理时依赖训练集导致的上下文泄露问题，采用分层折叠教师标注策略。在19个医疗数据集、6个教师模型、4个学生模型家族及多教师集成实验中，蒸馏学生模型保留了教师AUC的至少90%，部分甚至超越教师，同时CPU推理速度提升至少26倍，且保持校准性和公平性。多教师平均并未持续优于最佳单教师。该研究为推理受限的健康场景部署高质量预测提供了可行路径。
论文表格基础模型知识蒸馏健康数据
推荐理由：医疗AI团队终于有了低成本部署高精度表格模型的方案——蒸馏后模型保留90%性能且快26倍，做健康数据预测的开发者可以直接用。
原文