10:07
官方一手arXiv: DeepSeek@Renfei Zhang, Niloofar Mireshghallah
推荐理由：这项研究揭示了强化学习在良性事实上的应用可能带来的个人信息泄露风险，值得对AI模型安全性和隐私保护进行深入探讨。
个人信息泄露
共 1 条相关 AI 资讯
8月25日
10:07
使用可验证奖励的强化学习（RLVR）用于提升模型推理能力，但其对模型泄露信息的影响研究不足。研究发现，在良性事实数据上应用RLVR会提高模型提取已记忆的个人信息（PII）。在DeepSeek-V3.1上，针对姓名-电子邮件对的精确召回率从0.155提升到0.370，增幅达2.4倍。模型大小与泄露程度成正比，在参数量最大的模型上泄露最严重。同时，模型推理能力和拒绝率保持不变，表明RL只是选择性地改变可访问的已记忆信息，而非全面改变。通过从未接触过的训练提升可提取的个人信息，为攻击者提供了获取记忆数据的途径，无需隐私相关的训练信号和数据访问权限，只需具备微调无害数据的能力。