AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：隐私安全×
6月16日
20:46
11:02
11:02arXiv cs.LG@Meghana R. Bhat, Ankit Umare, Utsav Aggarwal, Richard Vecsler, Arunkumar Mani, Karthik Nair, Chandhu Nair
该论文提出集成营销归因（IMA）框架，将营销组合模型（MMM）与渠道特定贝叶斯归因模型结合。IMA利用MMM先验信息，从聚合数据中推导出战役级效果，实现了隐私安全且细粒度的归因。与传统MMM的粗粒度优化和MTA在隐私限制下不可靠的问题相比，IMA在保持与MMM一致性的同时提供更精细的洞察。该方法在零售营销场景中可有效替代依赖用户级追踪的方案。
论文营销归因MMMMTA贝叶斯方法隐私安全
推荐理由：想在不碰用户隐私的前提下搞清楚每个广告战役的效果？这篇论文的IMA框架把MMM和贝叶斯归因揉在一起，给出细粒度结果还不出格，做营销分析的可以看看。
原文
6月12日
12:57
6月11日
15:28
15:23
15:07
6月5日
12:59
12:59arXiv: DeepSeek@Lingxiang Xu, Jiaoyun Yang, Min Hu, Hongtu Chen, Ning An
精选
该研究提出了RBI-Eval评估框架，用于衡量记忆增强型对话代理在何时不应将敏感记忆整合到回复中。研究发现，当模型访问敏感记忆时，GPT-5.4-mini的敏感记忆整合分离分数下降8.9%-26.6%，而Claude-Sonnet-4.6、DeepSeek-V4-Flash和Qwen3.5-9B则下降51.1%-82.9%，表明不同模型对敏感记忆的过度使用程度差异巨大。控制实验证实这种效应是敏感内容特有的，而非一般个性化。检索系统虽能减少暴露，但一旦敏感记忆到达生成器，整合仍会发生。该研究强调安全个性化需要在检索和生成两个阶段都做出记忆感知的决策。
论文记忆增强对话代理隐私安全评估框架RBI-Eval
推荐理由：该研究揭示了记忆增强AI代理在敏感信息使用上的关键盲区，做对话系统和个性化AI的开发者值得关注——它直接关系到用户隐私和信任。
原文
5月28日
11:36
11:36arXiv: OpenAI@Aman Priyanshu, Supriti Vijay, Esha Pahwa
精选72°
该研究引入了一个模拟平台，让数千个LLM智能体在社区中互动一个月，评估隐私泄露风险。研究发现，从单轮转向多轮社交评估时，隐私泄露率从19.95%升至45.30%（OpenAI模型）。观察同伴泄露后，智能体泄露敏感信息的概率增加8倍。即使有明确的隐私指令，泄露率仍高于37.8%。这表明静态聊天基准测试低估了智能体部署中的隐私风险，社交环境本身就能引发单轮评估无法发现的敏感信息泄露。
论文隐私安全多智能体系统LLM评估社交模拟安全基准
推荐理由：多智能体系统正在走向真实部署，但隐私风险被严重低估——做AI安全评估或部署智能体应用的团队，建议看看这个研究，它揭示了社交环境如何放大隐私泄露。
原文
5月12日
19:11
19:11arXiv: OpenAI@Urchade Zaratiana, Ash Lewis, George Hurn-Maloney
GLiNER2-PII是一个基于GLiNER2改进的0.3B参数模型，专门用于识别42种个人身份信息（PII）实体类型，支持字符级跨度检测。为解决真实PII数据匮乏和隐私风险问题，研究团队使用约束驱动生成管道构建了包含4910个标注文本的多语言合成语料库。在SPY基准测试中，该模型在跨度级别F1得分上超越了OpenAI隐私过滤器等五个对比系统。模型已在Hugging Face上开源，旨在促进PII检测的研究和实际部署。
论文个人信息提取多语言开源/仓库合成数据隐私安全
推荐理由：该模型以较小参数量在PII提取任务上达到领先性能，并采用合成数据方法规避隐私风险，为数据清洗和合规检测提供了实用工具。开源策略有助于社区进一步优化和适配多语言场景。
原文