AITOP

隐私保护

共 50 条相关 AI 资讯
7月11日
01:10
7月10日
18:31
11:27
11:27官方账号arXiv cs.LG@Wenxiu Ding, Muzhi Liu, Zheng Yan, Mingjun Wang, Yifan Zhao, Qiao Liu
EdgeRefine是一种面向图结构数据的本地差分隐私框架，通过Jaccard相似度估计边存在概率，并利用隐私预算ε(如2.5)动态调整真边与假边比例。在ACM数据集上使用GAT模型时，节点分类准确率较当前最优方法提升17.8%；在Cora数据集上使用GCN模型时提升19.7%。图分类任务中，其准确率相比无噪声基线仅下降约5%。在对抗图重构攻击时，Cora和AMAP数据集上的相对绝对误差均值分别达1.962和1.472，显著优于其他隐私保护方法。
论文EdgeRefine图神经网络差分隐私Jaccard采样隐私保护
推荐理由：这篇论文提出了EdgeRefine，用Jaccard采样搞定图数据隐私保护，准确率比现有方法高出近20%，而且抗攻击能力很强，搞图神经网络的该看看。
原文
11:21
11:21官方账号arXiv cs.LG@Hyunho Mo, Djura Smits, Mahlet A. Birhanu, Maarten J. G. Leening, Daniel Bos, Pim van der Harst, Esther E. Bron
该研究提出使用联邦深度学习进行隐私保护的心血管疾病风险预测，整合了两个异质性队列：Lifelines（148,230名参与者，自报结果）和Rotterdam Study（10,155名参与者，临床链接结果）。联邦训练的深度生存模型在Rotterdam Study上C-statistic从0.728升至0.739，在Lifelines上从0.783升至0.787，均优于本地训练模型。结果表明联邦学习能在不共享患者数据的前提下提升预测性能。
论文Federated Deep LearningLifelinesRotterdam Study隐私保护疾病预测
推荐理由：这篇论文展示了联邦学习如何让两个不同规模、不同数据来源的医院协同训练模型，预测心血管病风险更准还保护隐私，值得医疗AI从业者看看。
原文
7月8日
10:12
7月4日
12:14
7月3日
09:06
09:06官方账号arXiv cs.LG@Xavier Martínez-Luaña, Alba Gude-Santos, Manuel Fernández-Veiga, Rebeca P. Díaz-Redondo
本文提出一种模型无关的对抗性分布式学习框架，同时应对隐私泄露和恶意行为。框架结合GPBACC编码计算技术，适用于任意机器学习模型。在联邦学习中采用鲁棒聚合策略减轻恶意参与者影响；在去中心化学习中用近似解码比较和分组测试实现轻量级验证。通过隐私攻击和恶意行为的攻击驱动分析，表明GPBACC与鲁棒聚合、验证机制的组合能显著降低隐私泄露并提升对主动攻击的韧性。
论文GPBACC联邦学习去中心化学习隐私保护可验证计算
推荐理由：这篇论文搞了个新框架，能把隐私保护和防恶意攻击一块儿解决，而且联邦学习和去中心化环境都适用，做分布式安全的可以看看。
原文
7月1日
10:58
10:58官方账号arXiv cs.LG@Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus
论文研究 relay-assisted 语义通信系统的隐私问题，指出中继节点即使无源数据也能可靠推断语义并重构信号，其性能与合法接收器相当。提出迭代对抗训练框架，通过交替优化中继窃听与合法系统，在保持合法接收器解码性能的同时显著抑制中继推理。合法与窃听端语义精度差距在多种信道条件下扩大，实现隐蔽隐私保护。方法基于高保真重构与选择性语义抑制的平衡。
论文语义通信隐私保护对抗训练中继网络
推荐理由：这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。
原文
6月30日
13:59
6月26日
07:54
6月23日
10:20
6月22日
22:26
6月17日
11:45
10:21
10:21官方账号arXiv cs.LG@Tomasz Maciazek
精选
该研究分析了高斯过程（GP）后验采样中释放样本路径的差分隐私（DP）性质。与标准DP机制不同，后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限，将隐私泄露分解为后验均值依赖和后验协方差依赖部分，并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验，验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中，隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。
论文Gaussian ProcessDifferential PrivacyRényi-DPAI安全隐私保护
推荐理由：这篇论文分析了GP后验采样的隐私性，不用额外加噪就能获得DP保证，还给了Rényi-DP界限。和标准加噪方法比，它更巧妙地利用了内生随机性。
原文
6月16日
12:38
11:54
11:54官方账号arXiv cs.AI@Qi Li, Zhenhua Zou, Shuo Li, Mingwei Xu, Zhuotao Liu
TrustedARI是首个为智能体AI设计的信任原生代理路由基础设施，解决传统ARI架构中代理查询和服务响应明文暴露、路由验证缺失的风险。其核心创新包括：三方可信握手协议（通信开销降低39.34%）、隐私保护查询构建协议（平均计算耗时0.19秒、通信成本0.58 MB）、可验证计费协议（证明生成加速28.20倍）。实验表明，TrustedARI无需修改服务提供商即可直接部署。该研究在arXiv上发表，为智能体路由安全提供了可落地方案。
论文TrustedARIAgentic AI代理路由可验证计费隐私保护
推荐理由：这篇论文搞了个TrustedARI，让AI代理调用外部服务时能验证路由安全，还比现有方案省近四成带宽，部署不用改服务商代码。
原文
11:03
11:03官方账号arXiv cs.LG@Alvaro Javier Vargas Guerrero, Xinguang Wang, Quang Manh Doan, Guy Nagels
该论文提出了联邦学习消息的正式数学定义，涵盖合成数据和联邦分析等现代负载。作者将联邦消息分为三类：模型结构、统计摘要和数据条件表示，并基于计算开销、通信成本和隐私风险评估了这些类别。通过对202篇近期出版物的回顾，研究发现自2021年以来联邦学习消息范式显著多样化，从标准深度学习更新转向更专业化的信息共享。该框架为优化不同硬件和安全要求的联邦系统提供了结构化路径。
论文联邦学习消息分类隐私保护通信效率
推荐理由：联邦学习早就不只传权重了，这篇论文给你梳理了现在的消息类型，分类清楚，还分析了隐私和效率的取舍。
原文
6月15日
11:10
6月11日
02:47
02:47官方一手Google Research: Blog（资讯）
Google 研究团队提出了一种新的框架，用于审计机器学习模型是否真正实现了“遗忘”功能。该框架通过设计特定的攻击和测试方法，能够有效评估模型在删除特定数据后是否仍保留了相关信息。这项工作对于负责任的人工智能、隐私保护和数据安全至关重要，尤其是在用户要求删除个人数据的场景下。框架提供了可量化的评估指标，帮助开发者和监管机构验证模型遗忘的可靠性。
论文机器学习数据遗忘隐私保护审计框架Google
推荐理由：隐私合规团队和 AI 安全研究者终于有了可操作的遗忘验证工具——Google 的审计框架让“数据被遗忘权”不再是空话，做模型治理和合规的团队建议点开看看具体方法。
原文
6月10日
08:47
6月9日
15:21
15:21AI Will@FinanceYF5
83°
苹果宣布与Google Gemini深度合作，共同打造新一代基础模型，并推出全新的Siri AI独立应用。该应用支持个人上下文理解、应用操作、视觉智能等能力，通过系统编排器连接Apple Intelligence，具备上下文理解、应用操作、屏幕感知、图像理解和世界知识五大功能。隐私方面，采用设备端处理加私有云方案，数据不存储且无人可访问。这一合作标志着苹果在AI领域的重大战略升级，将显著提升Siri的智能化水平和用户体验。
AI产品苹果Google GeminiSiri基础模型隐私保护
推荐理由：苹果与Google Gemini的深度合作将重塑Siri的AI能力，做iOS开发或关注智能助手生态的人值得关注，新Siri独立应用可能改变日常交互方式。
原文
04:48
03:06
01:39
6月6日
12:33
6月4日
11:25
11:25官方账号arXiv cs.LG@Jian Yang, Yuan Tong, Qinbin Li, Zeyi Wen, Xiaofang Zhou
精选
本文提出一种基于全同态加密（FHE）的因果结构学习方法，在数据传输和计算过程中全程保持加密状态，解决分布式场景下的隐私泄露问题。针对FHE计算成本高、不支持除法和对数运算的挑战，作者设计了电路简化、牛顿-拉夫森倒数近似和泰勒展开等创新技术，并利用SIMD批处理加速。该方法还能扩展支持差分隐私，实验表明在测试数据集上结果与明文版本高度一致，且能在数十分钟内完成学习。
论文全同态加密因果结构学习隐私保护分布式计算SIMD加速
推荐理由：做分布式数据挖掘或医疗、金融等隐私敏感领域因果分析的团队，终于有了一个可落地的加密方案——FHE 的算力瓶颈被巧妙绕过，建议直接看技术细节。
原文
10:16
10:16官方账号arXiv cs.AI@Peihua Mai, Xuanrong Gao, Youlong Ding, Xianglong Du, Wei Liu, Yan Pang
精选
SharedRequest 是一种针对大语言模型（LLM）的隐私保护推理框架，通过将原始提示与噪声变体混合，并在批量级别进行语义分组，来隐藏敏感信息。该方法无需修改模型架构或访问模型参数，兼容任何LLM。实验表明，与差分隐私基线相比，SharedRequest 的效用提升超过20%，且共享提示机制使查询成本降低最多5倍。该框架解决了现有方法在效用、效率和兼容性上的权衡问题。
论文隐私保护LLM推理模型无关批量查询差分隐私
推荐理由：做LLM隐私保护的团队终于有了一个无需改模型、不牺牲太多效用的实用方案——批量推理还能省成本，做API服务的开发者值得关注。
原文
07:12
07:12IT之家（博客/媒体）
谷歌实验产品团队 Google Labs 推出了一款名为 Dreambeans（梦豆）的 AI 应用，登陆 iOS 和安卓平台。该应用在用户授权后，整合 Gmail、日历、谷歌相册、YouTube、搜索记录等谷歌服务数据，每日生成 10 至 14 条精选的生活灵感随笔，内容涵盖推荐打卡去处、科普话题、新鲜事物和出行规划等。产品旨在减少无休止刷手机的习惯，通过有限推送让用户获得灵感后回归现实生活。隐私方面，所有内容仅用户可见，可随时删除数据并选择绑定服务。目前仅面向美国地区的 Google AI Ultra 订阅用户开放，其他用户可加入候补名单。
AI产品Dreambeans谷歌生活灵感隐私保护AI应用
推荐理由：谷歌把个人数据变成每日灵感，解决了信息过载和刷手机成瘾的问题，适合想从数字生活中抽身、获取个性化建议的普通用户。建议试试，尤其是谷歌重度用户。
原文
6月3日
23:41
09:12
09:12IT之家（博客/媒体）
Perplexity 宣布将于 7 月升级其自主 AI 智能体系统 Perplexity Computer，引入混合 AI 调度能力。该功能可根据任务场景自动拆分：涉及金融记录、健康信息等敏感数据的部分由本地模型处理，复杂任务则调用云端前沿模型。设备上的小模型会先判断哪些内容应留在本地，避免用户手动选择。Perplexity 认为真实任务混合了隐私判断、内容理解和复杂生成，因此按环节协调本地与云端模型完成结果。
AI产品Perplexity Computer混合AI隐私保护智能体任务调度
推荐理由：Perplexity Computer 的混合调度解决了 AI 任务中隐私与算力的两难，做自动化或智能体开发的团队可以关注这个架构思路，看看如何在不牺牲性能的前提下保护用户数据。
原文
08:42
6月2日
22:33
12:03
12:03官方账号arXiv cs.AI@Bardia Mohammadi, Lars Klein, Akhil Arora, Laurent Bindschaedler
论文提出“幽灵工具调用”概念，指AI代理在投机执行未来工具调用时，向外部服务泄露用户意图的问题。即使代理后续放弃该分支，外部观察者已获取的信息无法撤回。作者提出“投机工具隐私契约”运行时抽象，将提交前的观察视为独立于状态变更的一等效应。原型系统评估了12种策略，发现只有发布时修改或抑制调用参数/目标的策略才能减少推断，事后过滤、只读限制和访问控制列表均无效。
论文AI代理隐私保护投机执行工具调用论文
推荐理由：做AI代理安全与隐私的开发者会关心——投机执行加速了响应，却让用户意图裸奔给外部服务，这篇论文给出了可落地的运行时方案，值得研究隐私工程的团队细读。
原文
09:44
09:44官方账号arXiv cs.AI@YongKyung Oh, Alex Bui
精选
该论文指出，在联邦学习框架下对基础模型进行个性化训练时，由于隐私约束限制了模型行为的可见性，会出现一类难以检测的信任失败，称为“静默失败”。这些失败包括偏见放大、公平性崩溃和对齐侵蚀。现有基准测试存在结构性分裂：联邦基准关注系统性能，而集中式信任基准需要模型访问权限，与联邦隐私不兼容。论文提出了六种静默失败模式的分类法，并强调仅靠隐私保护训练不足以实现可信部署。最后，作者呼吁将静默失败作为联邦人工智能的标准诊断类别，并提出了隐私保护行为评估的研究议程。
论文联邦学习基础模型隐私保护模型可信静默失败
推荐理由：这篇论文戳中了联邦学习落地中的盲区——隐私保护不等于模型可信，做联邦学习系统或隐私AI的团队值得一读，避免在部署后才发现模型行为失控。
原文
09:43
09:43官方账号arXiv cs.AI@Hassan Touheed
SS-ZKR 是一种新型隐私保护路由协议，专为多智能体系统设计，作为 A2A 和 MCP 协议的补充层。它解决了在 GDPR、HIPAA 等合规敏感环境中，路由中介无法解密智能体负载却仍需进行内容感知路由的难题。协议包含三个机制：基于差分隐私语义意图向量的盲路由、自适应负载清理以及将信任区域拓扑编译为零知识访问电路。SS-ZKR 让金融、医疗和国防领域的企业能在不暴露专有数据的前提下，跨监管边界编排异构 AI 智能体。
论文隐私保护多智能体协作零知识证明A2A/MCP差分隐私
推荐理由：做多智能体系统或合规 AI 架构的团队，终于有了一个能在不暴露数据的前提下实现跨组织语义路由的方案——SS-ZKR 直接解决了 A2A/MCP 协议栈中的隐私空白，值得关注。
原文
5月29日
17:35
17:35IT之家（博客/媒体）
美国初创公司 Shift 在纽约市推出免费公寓清洁服务，专业清洁人员会全程佩戴设备录制第一视角视频。这些视频经匿名化处理后，将被授权用于训练 AI 和家用机器人，帮助它们学习日常家务操作。Shift 强调会模糊处理屏幕、身份证等个人信息，不会公开分享或出售给广告商。该公司计划未来在全球范围内扩展免费上门维修、修理和跑腿等服务，同样以录像为交换条件。
AI产品数据采集家用机器人AI训练隐私保护Shift
推荐理由：做机器人或 AI 家务训练的团队，终于有了真实世界数据获取的新路径——Shift 用免费服务换清洁录像，解决了数据稀缺和成本高的问题，值得关注其数据集授权模式。
原文
13:05
13:05官方一手arXiv: DeepSeek@Dongsheng Shi, Yue Li, Xin Yi, Yongyi Cui, Huawei Feng, Linlin Wang
SURGENT 是一个面向围手术期全流程的多智能体辅助系统，由 Tree-of-Thought 规划器、多科室协作智能体和检索增强推理模块组成。它通过创新的记忆设计管理长期患者病史和短期工作摘要，解决了大语言模型在手术应用中输入长度限制、记忆不完整和可追溯性差的问题。在病例分析、手术计划模拟、安全监测、并发症风险评估和康复指导五项任务中，SURGENT 表现优于基线 LLM 和现有医疗多智能体框架。消融实验显示，DeepSeek 作为本地可部署的骨干模型，能实现隐私保护部署。该系统为智能、公平且安全的手术辅助提供了实用且可信的进展。
论文多智能体系统手术辅助检索增强生成DeepSeek隐私保护
推荐理由：SURGENT 解决了手术场景中 AI 辅助的隐私和可追溯性痛点，做医疗 AI 或手术辅助系统的开发者可以直接参考其多智能体架构和记忆设计。
原文
08:28
5月26日
17:01
5月22日
12:05