全部 AI 动态 · AI 热点

6月17日

10:21

arXiv cs.LG@Tomasz Maciazek

精选

该研究分析了高斯过程（GP）后验采样中释放样本路径的差分隐私（DP）性质。与标准DP机制不同，后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限，将隐私泄露分解为后验均值依赖和后验协方差依赖部分，并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验，验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中，隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。

论文 Gaussian Process Differential Privacy Rényi-DP AI安全隐私保护

推荐理由：这篇论文分析了GP后验采样的隐私性，不用额外加噪就能获得DP保证，还给了Rényi-DP界限。和标准加噪方法比，它更巧妙地利用了内生随机性。

原文

6月16日

20:46

AITOP6月16日 20:46

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

11:54

arXiv cs.AI@Qi Li, Zhenhua Zou, Shuo Li, Mingwei Xu, Zhuotao Liu

TrustedARI是首个为智能体AI设计的信任原生代理路由基础设施，解决传统ARI架构中代理查询和服务响应明文暴露、路由验证缺失的风险。其核心创新包括：三方可信握手协议（通信开销降低39.34%）、隐私保护查询构建协议（平均计算耗时0.19秒、通信成本0.58 MB）、可验证计费协议（证明生成加速28.20倍）。实验表明，TrustedARI无需修改服务提供商即可直接部署。该研究在arXiv上发表，为智能体路由安全提供了可落地方案。

论文 TrustedARI Agentic AI 代理路由可验证计费隐私保护

推荐理由：这篇论文搞了个TrustedARI，让AI代理调用外部服务时能验证路由安全，还比现有方案省近四成带宽，部署不用改服务商代码。

原文

11:03

arXiv cs.LG@Alvaro Javier Vargas Guerrero, Xinguang Wang, Quang Manh Doan, Guy Nagels

该论文提出了联邦学习消息的正式数学定义，涵盖合成数据和联邦分析等现代负载。作者将联邦消息分为三类：模型结构、统计摘要和数据条件表示，并基于计算开销、通信成本和隐私风险评估了这些类别。通过对202篇近期出版物的回顾，研究发现自2021年以来联邦学习消息范式显著多样化，从标准深度学习更新转向更专业化的信息共享。该框架为优化不同硬件和安全要求的联邦系统提供了结构化路径。

论文联邦学习消息分类隐私保护通信效率

推荐理由：联邦学习早就不只传权重了，这篇论文给你梳理了现在的消息类型，分类清楚，还分析了隐私和效率的取舍。

原文

6月15日

11:10

arXiv cs.LG@Liou Tang, James Joshi, Ashish Kundu

该论文针对机器遗忘（Machine Unlearning）的审计问题，给出信息论证明：对于凸ML模型，任何仅依赖行为信号（如模型输出）的审计方案，都无法在不泄露保留集成员信息的情况下识别未经充分遗忘的模型。实验在凸模型上强有力地支持该结论，并在非凸模型上也观察到类似的隐私-审计权衡。研究结果呼吁在现实审计者威胁模型下更谨慎地考虑隐私与审计的冲突，并为设计隐私保护的审计方案提供基础。代码已开源。

论文 Machine Unlearning 隐私审计凸模型隐私保护

推荐理由：论文证明行为审计会泄露隐私，给审计方案敲警钟

原文

6月12日

12:57

AITOP6月12日 12:57

Claude代码里藏了个20260612，18个月后的AI记忆革命已经开始倒计时

6月11日

15:28

AITOP6月11日 15:28

1107 vs 303：谷歌悄悄开源了一个“拆打字机”的模型，把大模型速度翻了4倍

15:23

AITOP6月11日 15:23

DiffusionGemma颠覆文本生成？自回归模型的“统治”要结束了

15:07

AITOP6月11日 15:07

每秒1107个token，Google开源的扩散模型为什么能改变本地推理格局？

6月4日

11:25

arXiv cs.LG@Jian Yang, Yuan Tong, Qinbin Li, Zeyi Wen, Xiaofang Zhou

精选

本文提出一种基于全同态加密（FHE）的因果结构学习方法，在数据传输和计算过程中全程保持加密状态，解决分布式场景下的隐私泄露问题。针对FHE计算成本高、不支持除法和对数运算的挑战，作者设计了电路简化、牛顿-拉夫森倒数近似和泰勒展开等创新技术，并利用SIMD批处理加速。该方法还能扩展支持差分隐私，实验表明在测试数据集上结果与明文版本高度一致，且能在数十分钟内完成学习。

论文全同态加密因果结构学习隐私保护分布式计算 SIMD加速

推荐理由：做分布式数据挖掘或医疗、金融等隐私敏感领域因果分析的团队，终于有了一个可落地的加密方案——FHE 的算力瓶颈被巧妙绕过，建议直接看技术细节。

原文

10:16

arXiv cs.AI@Peihua Mai, Xuanrong Gao, Youlong Ding, Xianglong Du, Wei Liu, Yan Pang

精选

SharedRequest 是一种针对大语言模型（LLM）的隐私保护推理框架，通过将原始提示与噪声变体混合，并在批量级别进行语义分组，来隐藏敏感信息。该方法无需修改模型架构或访问模型参数，兼容任何LLM。实验表明，与差分隐私基线相比，SharedRequest 的效用提升超过20%，且共享提示机制使查询成本降低最多5倍。该框架解决了现有方法在效用、效率和兼容性上的权衡问题。

论文隐私保护 LLM推理模型无关批量查询差分隐私

推荐理由：做LLM隐私保护的团队终于有了一个无需改模型、不牺牲太多效用的实用方案——批量推理还能省成本，做API服务的开发者值得关注。

原文

6月2日

12:03

arXiv cs.AI@Bardia Mohammadi, Lars Klein, Akhil Arora, Laurent Bindschaedler

论文提出“幽灵工具调用”概念，指AI代理在投机执行未来工具调用时，向外部服务泄露用户意图的问题。即使代理后续放弃该分支，外部观察者已获取的信息无法撤回。作者提出“投机工具隐私契约”运行时抽象，将提交前的观察视为独立于状态变更的一等效应。原型系统评估了12种策略，发现只有发布时修改或抑制调用参数/目标的策略才能减少推断，事后过滤、只读限制和访问控制列表均无效。

论文 AI代理隐私保护投机执行工具调用论文

推荐理由：做AI代理安全与隐私的开发者会关心——投机执行加速了响应，却让用户意图裸奔给外部服务，这篇论文给出了可落地的运行时方案，值得研究隐私工程的团队细读。

原文

09:44

arXiv cs.AI@YongKyung Oh, Alex Bui

精选

该论文指出，在联邦学习框架下对基础模型进行个性化训练时，由于隐私约束限制了模型行为的可见性，会出现一类难以检测的信任失败，称为“静默失败”。这些失败包括偏见放大、公平性崩溃和对齐侵蚀。现有基准测试存在结构性分裂：联邦基准关注系统性能，而集中式信任基准需要模型访问权限，与联邦隐私不兼容。论文提出了六种静默失败模式的分类法，并强调仅靠隐私保护训练不足以实现可信部署。最后，作者呼吁将静默失败作为联邦人工智能的标准诊断类别，并提出了隐私保护行为评估的研究议程。

论文联邦学习基础模型隐私保护模型可信静默失败

推荐理由：这篇论文戳中了联邦学习落地中的盲区——隐私保护不等于模型可信，做联邦学习系统或隐私AI的团队值得一读，避免在部署后才发现模型行为失控。

原文

09:43

arXiv cs.AI@Hassan Touheed

SS-ZKR 是一种新型隐私保护路由协议，专为多智能体系统设计，作为 A2A 和 MCP 协议的补充层。它解决了在 GDPR、HIPAA 等合规敏感环境中，路由中介无法解密智能体负载却仍需进行内容感知路由的难题。协议包含三个机制：基于差分隐私语义意图向量的盲路由、自适应负载清理以及将信任区域拓扑编译为零知识访问电路。SS-ZKR 让金融、医疗和国防领域的企业能在不暴露专有数据的前提下，跨监管边界编排异构 AI 智能体。

论文隐私保护多智能体协作零知识证明 A2A/MCP 差分隐私

推荐理由：做多智能体系统或合规 AI 架构的团队，终于有了一个能在不暴露数据的前提下实现跨组织语义路由的方案——SS-ZKR 直接解决了 A2A/MCP 协议栈中的隐私空白，值得关注。

原文

5月29日

13:05

arXiv: DeepSeek@Dongsheng Shi, Yue Li, Xin Yi, Yongyi Cui, Huawei Feng, Linlin Wang

SURGENT 是一个面向围手术期全流程的多智能体辅助系统，由 Tree-of-Thought 规划器、多科室协作智能体和检索增强推理模块组成。它通过创新的记忆设计管理长期患者病史和短期工作摘要，解决了大语言模型在手术应用中输入长度限制、记忆不完整和可追溯性差的问题。在病例分析、手术计划模拟、安全监测、并发症风险评估和康复指导五项任务中，SURGENT 表现优于基线 LLM 和现有医疗多智能体框架。消融实验显示，DeepSeek 作为本地可部署的骨干模型，能实现隐私保护部署。该系统为智能、公平且安全的手术辅助提供了实用且可信的进展。

论文多智能体系统手术辅助检索增强生成 DeepSeek 隐私保护

推荐理由：SURGENT 解决了手术场景中 AI 辅助的隐私和可追溯性痛点，做医疗 AI 或手术辅助系统的开发者可以直接参考其多智能体架构和记忆设计。

原文

5月19日

10:16

arXiv cs.AI@Jon Saad-Falcon, Avanika Narayan, Robby Manihani, Tanvir Bhathal, Herumb Shandilya, Hakki Orhun Akengin, Gabriel Bo, Andrew Park, Matthew Hart, Caia Costello, Chuan Li, Christopher Ré, Azalia Mirhoseini

精选72°

OpenJarvis 是一种新的个人AI系统架构，旨在解决现有AI堆栈（如OpenClaw、Hermes Agent）严重依赖云端模型的问题。当前，将本地模型直接替换云端模型会导致准确率下降25-39个百分点。OpenJarvis 将个人AI系统分解为五个可独立优化的原语（智能、引擎、智能体、工具与记忆、学习），并引入LLM引导的规范搜索，让云端模型在搜索时提出编辑建议，但只接受不降低性能的修改，最终推理完全在设备上运行。实验表明，OpenJarvis 在8个基准测试中的4个上匹配或超越云端准确率，平均仅落后3.2个百分点，同时将API成本降低约800倍，端到端延迟降低4倍。

论文个人AI 本地部署 OpenJarvis LLM引导搜索隐私保护

推荐理由：做本地AI部署或隐私敏感应用的开发者，OpenJarvis 提供了一种不牺牲性能就能在设备上运行个人AI的方案，值得深入研究其架构和优化方法。

原文

5月14日

13:27

arXiv: OpenAI@Anuj Sadani, Deepak Kumar

精选

本文提出一种完全在设备端运行的 PII 替换流水线，使用 1.5B MoE 分类器检测实体、1-bit Bonsai-1.7B 小语言模型生成上下文相关的假名，以及规则生成器处理模式化字段。研究发现，小模型在少样本提示下会逐字复读演示输出，而非根据输入生成。通过引入基于语言环境的旋转演示池和 MD5 哈希采样，成功消除了 482/482 次调用中的复读现象。尽管生成的假名更自然，但在下游 NER 任务中，规则生成的多样性优于小模型的自然性，这是一个诚实的负面发现。

论文小语言模型 PII替换少样本提示设备端推理隐私保护

推荐理由：做设备端隐私处理或小模型应用的团队，这篇论文揭示了少样本提示中一个容易被忽视的陷阱——模型会复读演示而非推理，并给出了一个简单有效的修复方案，值得点开看看。

原文

5月12日

19:11

arXiv: DeepSeek@Naicheng Li, Javad Dogani, Rui Wang, Kaitai Liang, Nikolaos Laoutaris

FLTorrent提出一种去中心化的联邦学习（FL）数据分发层，使用BitTorrent协议替代传统中央聚合器，解决性能瓶颈与隐私风险。其核心创新在于“预热阶段”，通过轮前混淆、随机延迟和协调调度（tracker不参与数据传输）实现轮内源不可链接性，防止攻击者通过P2P邻居关系推断更新来源。作者推导了传输归属后验概率的上界，并提出GreedyFastestFirst启发式调度，在100-500个节点时达到带宽最优值的约92%，预热开销稳定在约12%。在Gemma-7B、DeepSeek-R1-14B等大模型测试中，相对于纯BitTorrent仅增加6-10%端到端开销，且对抗观察型本地攻击者和合谋攻击均保持鲁棒。

论文联邦学习隐私保护 P2P网络 BitTorrent 去中心化

推荐理由：该工作首次在去中心化FL中实现轮内不可链接性与BitTorrent级效率共存，为大规模分布式机器学习隐私保护提供了实用方案，尤其适合对隐私敏感或需要弹性扩容的场景。

原文