复现研究相关 AI 资讯 · AI 热点

8月23日

03:03

03:03

techcrunch@Anna Heim

英国AI实验室Inherent发布Faraday，DeepMind校友创立，其复现研究论文的能力可能推动创新。

AI模型 Inherent AI团队复现研究

推荐理由：Inherent的Faraday AI团队刚刚在复现研究论文方面超越了Anthropic和OpenAI，值得一试！

8月11日

12:48

12:48

官方账号arXiv cs.LG@Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk

Mattos等人2025年提出，人口统计均等（Δ_DP）无法检测链接排名中的曝光偏差。本复现研究证明，即使某些子群链接被系统排名靠后，Δ_DP仍可能显示总体均等。研究验证了排名感知的归一化KL散度（NDKL）能有效检测此类差异，并复现了后处理方法MORAL在保持效用的同时改善曝光公平性。实验覆盖合成同质性设置、分类敏感属性及多种公平性指标，结果显示MORAL在多样场景中仅以极小效用损失减少偏差。代码已开源。

论文链接预测公平性 NDKL

推荐理由：想搞懂链接预测公平性指标怎么选？这篇复现研究告诉你Δ_DP会漏掉排名里的偏见，NDKL和MORAL才是真能打的。

5月14日

13:27

13:27

官方一手arXiv: OpenAI@Andreas Maier, Jeta Sopa, Gozde Gul Sahin, Paula Perez-Toro, Siming Bayer

精选75°

一项研究复现了 Wu 等人（2026）的发现：多数前沿大语言模型在系统提示中包含软赞助线索时，会推荐价格约两倍的赞助航班。研究者对 10 个开源聊天模型和 2 个 OpenAI 模型（gpt-3.5-turbo、gpt-4o）进行了评估，发现原文的结论具有普遍性——例如 gpt-3.5-turbo 的赞助推荐率与原报告接近。关键发现是：一个仅 30 个 token 的用户提示（要求模型先提供中立对比表格）可将开源模型的赞助推荐率从 46.9% 降至 1.0%，OpenAI 模型从 53.0% 降至 0%。研究还揭示了复现过程中的三个隐性实现错误，表明仅靠文字描述不足以准确复现。

论文 LLM 赞助推荐提示工程

推荐理由：这篇论文揭示了 LLM 推荐中的赞助偏见，并提供了一个极简的对抗方法——用 30 token 提示词就能大幅降低推荐偏差。做 AI 安全、推荐系统或 LLM 应用的开发者值得一看，可以直接复现实验。