AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:Differential Privacy×
6月17日
10:21
10:21arXiv cs.LG@Tomasz Maciazek
精选
该研究分析了高斯过程(GP)后验采样中释放样本路径的差分隐私(DP)性质。与标准DP机制不同,后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限,将隐私泄露分解为后验均值依赖和后验协方差依赖部分,并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验,验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中,隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。
论文Gaussian ProcessDifferential PrivacyRényi-DPAI安全隐私保护

推荐理由:这篇论文分析了GP后验采样的隐私性,不用额外加噪就能获得DP保证,还给了Rényi-DP界限。和标准加噪方法比,它更巧妙地利用了内生随机性。
原文
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
12:24
12:24arXiv cs.LG@Xiaolin Li, Ning Wang, Ninghui Li, Wenhai Sun
该论文挑战了差分隐私(DP)固有增强联邦学习(FL)鲁棒性的假设。通过分析两种基线攻击策略,发现DP会掩盖恶意更新的统计特征,使现有防御失效。作者提出RING攻击,显式利用DP来隐藏恶意贡献,同时最大化攻击影响。在四个图像和文本数据集上的非独立同分布场景中,RING在中等隐私预算下对六种先进防御的平均攻击成功率达到90.3%,相比基线策略提升高达26.08倍。评估表明缓解该威胁会带来显著的效用权衡,暴露了差分隐私FL部署中的根本安全漏洞。
论文Federated LearningDifferential PrivacyBackdoor AttackRINGAI安全

推荐理由:这篇论文颠覆了'差分隐私天然防后门'的认知,提出了RING攻击,平均成功率90.3%,建议做联邦学习安全的都看看。
原文
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
精选全部日报登录