AITOP

性别偏见

共 3 条相关 AI 资讯
6月18日
09:24
09:24官方一手arXiv: DeepSeek@Serena A. Hoffstedde, Machiko Hirota, Akshara Nadayanur Sathis Kanna, Rihito Kotani, Ujwal Kumar, Gabriele Trovato, Phan Xuan Tan
该研究使用60份日本履歴書格式简历、12个基于语言性别信号的名字对，以及Claude Sonnet 4.6、GPT-4o、DeepSeek-V3、Gemini 2.5 Flash、Llama 3.3 70B五个SOTA模型，进行了43200次API调用。交叉随机效应线性混合模型确认所有五个模型均存在显著亲女性偏见。提示级性别中立指令未能有效减少偏见。移除名字几乎完全消除了女性效应，表明名字是主要性别通道。隐私过滤器与GPT-4o安全过滤器的不兼容导致42%的请求被拒绝。
论文GPT-4oDeepSeek-V3Claude Sonnet 4.6
推荐理由：这篇论文用43200次测试发现，五个主流LLM在日文简历上全有亲女性偏见，改提示没用，删名字才行，看清AI招聘的坑。
原文
6月1日
10:52
10:52官方一手arXiv: DeepSeek@Jiwoo Choi, Seonwoo Ahn, Tongxin Zhang, Seohyon Jung
精选
一项研究对六种大语言模型（Claude、GPT、Gemini、DeepSeek、Syn-Pro、HyperCLOVA X）在英语、韩语、中文和日语中的性别刻板印象进行了审计。研究使用HEXACO-100人格量表，并以48国人类数据为基准，发现模型的性别偏见幅度比人类跨国家差异范围宽约2.5倍。例如，一个以英语为中心的模型在用韩语提示时，偏见水平达到当地人类基准的5倍，即使提示中明确候选人已被录用（这通常会减弱人类的刻板印象）。研究提出了一个四模式框架（一致、抑制、重组、放大）来描述24个（模型×语言）单元的行为，并发现翻译不仅会缩放刻板印象，还会改变与之关联的属性。结论是，没有单一的偏见消除流程能跨语言边界均匀地解决偏见问题。
论文性别偏见跨语言审计HEXACO-100
推荐理由：这项研究揭示了AI性别偏见在跨语言环境下的复杂性和放大效应，对多语言AI部署团队和公平性研究者来说，是理解偏见机制、设计针对性缓解策略的关键参考。建议关注其四模式框架和跨语言属性重组发现。
原文
10:38
10:38官方账号arXiv cs.AI@Arnau Marin-Llobet, Simon Henniger, Mahzarin R. Banaji
精选
研究发现，视觉语言模型（VLM）在处理性别模糊的图像（如全副武装的工人、背影）时，即使内部编码了女性关联，输出仍倾向于男性，尤其在传统女性职业上表现明显。研究者提出零样本指标LALS，通过将视觉token激活投影到文本嵌入空间，逐层测量概念关联。实验覆盖15个职业、800多张模糊图像和4个VLM，发现模型内部存在不对称过滤：男性信号从头到尾增强，女性信号在中间层达到峰值后被压制。服装颜色等文化线索会进一步调节内部关联。这项研究揭示了VLM在模糊输入下的性别偏见机制，对AI公平性评估有重要启示。
论文视觉语言模型性别偏见LALS
推荐理由：做AI公平性研究或模型对齐的团队，这篇论文直接戳破了VLM在模糊输入下的性别偏见黑箱——LALS方法让你能逐层看到模型内部编码与输出的脱耦，建议做模型审计的开发者点开看看具体实验设计。
原文