AITOP

隐私保护

共 67 条相关 AI 资讯
6月9日
01:39
01:39IT之家（博客/媒体）
72°
苹果在 WWDC26 上宣布与谷歌达成合作，将 Gemini 大模型引入 Apple Intelligence，并推出全新的 AI 架构。新版 AI 可在设备端和云端运行，第二代设备端模型新增听写、自然语言理解、更生动的语音表达和屏幕感知功能。苹果强调隐私保护默认设置不妥协，采用端云结合方式，确保用户数据安全。这一合作标志着苹果在 AI 领域进一步开放生态，为用户提供更强大的智能体验。
AI产品苹果Apple IntelligenceGemini
事件专题
推荐理由：苹果用户终于能在设备上体验 Gemini 的 AI 能力，听写和屏幕感知功能让日常操作更智能，建议果粉和 AI 爱好者关注实际体验。
原文
6月6日
12:33
12:33IT之家（博客/媒体）
OpenAI 宣布为所有 ChatGPT 个人用户（Free、Go、Plus、Pro）开放“锁定模式”，该功能此前仅面向企业用户。启用后，ChatGPT 将限制实时网页浏览、深度研究、Agent 模式等功能，仅允许访问缓存内容，并禁用文件下载，以降低数据泄露风险。用户仍可上传文件和生成图片。OpenAI 强调，该模式不能完全阻止提示词注入攻击。
AI产品OpenAIChatGPT数据安全
事件专题
推荐理由：担心 ChatGPT 联网功能导致敏感数据外泄的个人用户终于有了官方防护——锁定模式一键关闭外部访问，适合处理机密信息或隐私敏感场景的团队和个人直接启用。
原文
6月4日
11:25
11:25官方账号arXiv cs.LG@Jian Yang, Yuan Tong, Qinbin Li, Zeyi Wen, Xiaofang Zhou
精选
本文提出一种基于全同态加密（FHE）的因果结构学习方法，在数据传输和计算过程中全程保持加密状态，解决分布式场景下的隐私泄露问题。针对FHE计算成本高、不支持除法和对数运算的挑战，作者设计了电路简化、牛顿-拉夫森倒数近似和泰勒展开等创新技术，并利用SIMD批处理加速。该方法还能扩展支持差分隐私，实验表明在测试数据集上结果与明文版本高度一致，且能在数十分钟内完成学习。
论文全同态加密因果结构学习隐私保护
推荐理由：做分布式数据挖掘或医疗、金融等隐私敏感领域因果分析的团队，终于有了一个可落地的加密方案——FHE 的算力瓶颈被巧妙绕过，建议直接看技术细节。
原文
10:16
10:16官方账号arXiv cs.AI@Peihua Mai, Xuanrong Gao, Youlong Ding, Xianglong Du, Wei Liu, Yan Pang
精选
SharedRequest 是一种针对大语言模型（LLM）的隐私保护推理框架，通过将原始提示与噪声变体混合，并在批量级别进行语义分组，来隐藏敏感信息。该方法无需修改模型架构或访问模型参数，兼容任何LLM。实验表明，与差分隐私基线相比，SharedRequest 的效用提升超过20%，且共享提示机制使查询成本降低最多5倍。该框架解决了现有方法在效用、效率和兼容性上的权衡问题。
论文隐私保护LLM推理模型无关
推荐理由：做LLM隐私保护的团队终于有了一个无需改模型、不牺牲太多效用的实用方案——批量推理还能省成本，做API服务的开发者值得关注。
原文
07:12
07:12IT之家（博客/媒体）
谷歌实验产品团队 Google Labs 推出了一款名为 Dreambeans（梦豆）的 AI 应用，登陆 iOS 和安卓平台。该应用在用户授权后，整合 Gmail、日历、谷歌相册、YouTube、搜索记录等谷歌服务数据，每日生成 10 至 14 条精选的生活灵感随笔，内容涵盖推荐打卡去处、科普话题、新鲜事物和出行规划等。产品旨在减少无休止刷手机的习惯，通过有限推送让用户获得灵感后回归现实生活。隐私方面，所有内容仅用户可见，可随时删除数据并选择绑定服务。目前仅面向美国地区的 Google AI Ultra 订阅用户开放，其他用户可加入候补名单。
AI产品Dreambeans谷歌生活灵感
事件专题
推荐理由：谷歌把个人数据变成每日灵感，解决了信息过载和刷手机成瘾的问题，适合想从数字生活中抽身、获取个性化建议的普通用户。建议试试，尤其是谷歌重度用户。
原文
6月3日
23:41
09:12
09:12IT之家（博客/媒体）
Perplexity 宣布将于 7 月升级其自主 AI 智能体系统 Perplexity Computer，引入混合 AI 调度能力。该功能可根据任务场景自动拆分：涉及金融记录、健康信息等敏感数据的部分由本地模型处理，复杂任务则调用云端前沿模型。设备上的小模型会先判断哪些内容应留在本地，避免用户手动选择。Perplexity 认为真实任务混合了隐私判断、内容理解和复杂生成，因此按环节协调本地与云端模型完成结果。
AI产品Perplexity Computer混合AI隐私保护
推荐理由：Perplexity Computer 的混合调度解决了 AI 任务中隐私与算力的两难，做自动化或智能体开发的团队可以关注这个架构思路，看看如何在不牺牲性能的前提下保护用户数据。
原文
08:42
6月2日
22:33
22:33官方一手Hugging Face: Blog（博客/媒体）
Holo3.1 是一个专注于本地化计算机操作的 AI 智能体模型，能够在用户设备上快速执行任务，如文件管理、应用操作等。它强调低延迟和隐私保护，无需依赖云端服务。该模型在多项基准测试中表现出色，尤其适合需要即时响应的场景。Holo3.1 的发布为本地 AI 智能体领域提供了新的选择，降低了使用门槛。
AI模型智能体本地化隐私保护
推荐理由：对于注重隐私和响应速度的开发者，Holo3.1 提供了本地化计算机操作的实用方案，可以直接在设备上运行，建议尝试集成到自动化工作流中。
原文
12:03
12:03官方账号arXiv cs.AI@Bardia Mohammadi, Lars Klein, Akhil Arora, Laurent Bindschaedler
论文提出“幽灵工具调用”概念，指AI代理在投机执行未来工具调用时，向外部服务泄露用户意图的问题。即使代理后续放弃该分支，外部观察者已获取的信息无法撤回。作者提出“投机工具隐私契约”运行时抽象，将提交前的观察视为独立于状态变更的一等效应。原型系统评估了12种策略，发现只有发布时修改或抑制调用参数/目标的策略才能减少推断，事后过滤、只读限制和访问控制列表均无效。
论文AI代理隐私保护投机执行
推荐理由：做AI代理安全与隐私的开发者会关心——投机执行加速了响应，却让用户意图裸奔给外部服务，这篇论文给出了可落地的运行时方案，值得研究隐私工程的团队细读。
原文
09:44
09:44官方账号arXiv cs.AI@YongKyung Oh, Alex Bui
精选
该论文指出，在联邦学习框架下对基础模型进行个性化训练时，由于隐私约束限制了模型行为的可见性，会出现一类难以检测的信任失败，称为“静默失败”。这些失败包括偏见放大、公平性崩溃和对齐侵蚀。现有基准测试存在结构性分裂：联邦基准关注系统性能，而集中式信任基准需要模型访问权限，与联邦隐私不兼容。论文提出了六种静默失败模式的分类法，并强调仅靠隐私保护训练不足以实现可信部署。最后，作者呼吁将静默失败作为联邦人工智能的标准诊断类别，并提出了隐私保护行为评估的研究议程。
论文联邦学习基础模型隐私保护
推荐理由：这篇论文戳中了联邦学习落地中的盲区——隐私保护不等于模型可信，做联邦学习系统或隐私AI的团队值得一读，避免在部署后才发现模型行为失控。
原文
09:43
09:43官方账号arXiv cs.AI@Hassan Touheed
SS-ZKR 是一种新型隐私保护路由协议，专为多智能体系统设计，作为 A2A 和 MCP 协议的补充层。它解决了在 GDPR、HIPAA 等合规敏感环境中，路由中介无法解密智能体负载却仍需进行内容感知路由的难题。协议包含三个机制：基于差分隐私语义意图向量的盲路由、自适应负载清理以及将信任区域拓扑编译为零知识访问电路。SS-ZKR 让金融、医疗和国防领域的企业能在不暴露专有数据的前提下，跨监管边界编排异构 AI 智能体。
论文隐私保护多智能体协作零知识证明
推荐理由：做多智能体系统或合规 AI 架构的团队，终于有了一个能在不暴露数据的前提下实现跨组织语义路由的方案——SS-ZKR 直接解决了 A2A/MCP 协议栈中的隐私空白，值得关注。
原文
5月29日
17:35
17:35IT之家（博客/媒体）
美国初创公司 Shift 在纽约市推出免费公寓清洁服务，专业清洁人员会全程佩戴设备录制第一视角视频。这些视频经匿名化处理后，将被授权用于训练 AI 和家用机器人，帮助它们学习日常家务操作。Shift 强调会模糊处理屏幕、身份证等个人信息，不会公开分享或出售给广告商。该公司计划未来在全球范围内扩展免费上门维修、修理和跑腿等服务，同样以录像为交换条件。
AI产品数据采集家用机器人AI训练
推荐理由：做机器人或 AI 家务训练的团队，终于有了真实世界数据获取的新路径——Shift 用免费服务换清洁录像，解决了数据稀缺和成本高的问题，值得关注其数据集授权模式。
原文
13:05
13:05官方一手arXiv: DeepSeek@Dongsheng Shi, Yue Li, Xin Yi, Yongyi Cui, Huawei Feng, Linlin Wang
SURGENT 是一个面向围手术期全流程的多智能体辅助系统，由 Tree-of-Thought 规划器、多科室协作智能体和检索增强推理模块组成。它通过创新的记忆设计管理长期患者病史和短期工作摘要，解决了大语言模型在手术应用中输入长度限制、记忆不完整和可追溯性差的问题。在病例分析、手术计划模拟、安全监测、并发症风险评估和康复指导五项任务中，SURGENT 表现优于基线 LLM 和现有医疗多智能体框架。消融实验显示，DeepSeek 作为本地可部署的骨干模型，能实现隐私保护部署。该系统为智能、公平且安全的手术辅助提供了实用且可信的进展。
论文多智能体系统手术辅助检索增强生成
推荐理由：SURGENT 解决了手术场景中 AI 辅助的隐私和可追溯性痛点，做医疗 AI 或手术辅助系统的开发者可以直接参考其多智能体架构和记忆设计。
原文
08:28
08:28官方账号LangChain@LangChainAI
精选
LangSmith 推出 LLM Gateway 功能，能在请求到达模型或记录到追踪数据之前自动脱敏敏感信息（如 SSN）。此前，包含敏感数据的请求会直接进入 LLM 提供商日志、追踪数据甚至下游系统，存在隐私泄露风险。该功能解决了 AI 应用开发中数据隐私保护的关键痛点，尤其适合处理个人身份信息的场景。
AI产品LangSmithLLM Gateway数据脱敏
事件专题
推荐理由：做 AI 应用开发的团队终于有了一个简单有效的数据脱敏方案，尤其是处理用户隐私数据的场景，建议直接集成到你的 LLM 调用流程中。
原文
5月26日
17:01
5月22日
12:05
12:05IT之家（博客/媒体）
Mozilla 宣布为 Firefox 浏览器推进代号为 Project Nova 的重大改版，计划今年晚些时候推出。新版围绕隐私和个性化，重新设计设置菜单，新增 AI 功能总开关，并优化增强型跟踪保护选项。视觉上采用更柔和的标签页形状、暖色调配色和统一圆润控件。性能方面，关键页面内容加载时间提升 9%，并恢复紧凑界面模式，适合小屏幕设备。用户可在最新 Nightly 版中通过 about:config 开启体验。
AI产品FirefoxNova 界面隐私保护
推荐理由：Firefox 老用户终于等到紧凑模式回归，小屏党可以省下不少屏幕空间；隐私控也能一键关闭 AI 功能，值得在 Nightly 版里尝鲜。
原文
5月21日
23:35
10:48
5月20日
00:08
5月19日
10:16
10:16官方账号arXiv cs.AI@Jon Saad-Falcon, Avanika Narayan, Robby Manihani, Tanvir Bhathal, Herumb Shandilya, Hakki Orhun Akengin, Gabriel Bo, Andrew Park, Matthew Hart, Caia Costello, Chuan Li, Christopher Ré, Azalia Mirhoseini
精选72°
OpenJarvis 是一种新的个人AI系统架构，旨在解决现有AI堆栈（如OpenClaw、Hermes Agent）严重依赖云端模型的问题。当前，将本地模型直接替换云端模型会导致准确率下降25-39个百分点。OpenJarvis 将个人AI系统分解为五个可独立优化的原语（智能、引擎、智能体、工具与记忆、学习），并引入LLM引导的规范搜索，让云端模型在搜索时提出编辑建议，但只接受不降低性能的修改，最终推理完全在设备上运行。实验表明，OpenJarvis 在8个基准测试中的4个上匹配或超越云端准确率，平均仅落后3.2个百分点，同时将API成本降低约800倍，端到端延迟降低4倍。
论文个人AI本地部署OpenJarvis
事件专题
推荐理由：做本地AI部署或隐私敏感应用的开发者，OpenJarvis 提供了一种不牺牲性能就能在设备上运行个人AI的方案，值得深入研究其架构和优化方法。
原文
5月14日
13:27
13:27官方一手arXiv: OpenAI@Anuj Sadani, Deepak Kumar
精选
本文提出一种完全在设备端运行的 PII 替换流水线，使用 1.5B MoE 分类器检测实体、1-bit Bonsai-1.7B 小语言模型生成上下文相关的假名，以及规则生成器处理模式化字段。研究发现，小模型在少样本提示下会逐字复读演示输出，而非根据输入生成。通过引入基于语言环境的旋转演示池和 MD5 哈希采样，成功消除了 482/482 次调用中的复读现象。尽管生成的假名更自然，但在下游 NER 任务中，规则生成的多样性优于小模型的自然性，这是一个诚实的负面发现。
论文小语言模型PII替换少样本提示
推荐理由：做设备端隐私处理或小模型应用的团队，这篇论文揭示了少样本提示中一个容易被忽视的陷阱——模型会复读演示而非推理，并给出了一个简单有效的修复方案，值得点开看看。
原文
07:29
01:10
01:10IT之家（博客/媒体）
谷歌在 Android Show 上宣布推出 AI 语音听写功能 Rambler，集成于 Gboard 输入法。该功能由 Gemini 多语言模型驱动，能自动删除填充词（如“呃”“啊”），并理解句中的即时修正。Rambler 支持“代码切换”，即在同一句话中混合使用多种语言而不丢失上下文。谷歌强调该功能不会存储语音录音，结合设备端与云端处理以保护隐私。初期仅限三星 Galaxy 和谷歌 Pixel 手机在夏季上线，后续扩展至其他 Android 设备。
AI产品Gemini语音听写Gboard
推荐理由：多语言混合输入是很多用户的痛点，Rambler 用 Gemini 模型解决了跨语言听写时的上下文断裂问题，经常用语音输入或需要中英混说的用户值得关注。
原文
5月13日
09:52
09:52IT之家（博客/媒体）
鸿蒙智行旗下首款 9 系旗舰 MPV 智界 V9 官宣将搭载华为悦彰非凡系列音响，该音响系统与尊界 S800 同款。智界 V9 采用 9.3.8 独立声道设计，配备 35 单元扬声器和 2920W 功放，支持 720° 环绕音效和独立音区技术。通过 8 个头枕扬声器和隐私声盾 2.0 功能，前后排音频可独立播放且互不干扰，保障后排隐私。该车已开启预售，预售价 39.98 万元起，72 小时订单突破 22500 台，将于 5 月 15 日上市。
AI产品智能体音频技术华为
推荐理由：智界 V9 的音响系统展示了华为在车载声学领域的创新，独立音区和隐私保护技术为 MPV 的多人出行场景提供了实用解决方案。
原文
00:33
5月12日
19:11
19:11官方一手arXiv: DeepSeek@Naicheng Li, Javad Dogani, Rui Wang, Kaitai Liang, Nikolaos Laoutaris
FLTorrent提出一种去中心化的联邦学习（FL）数据分发层，使用BitTorrent协议替代传统中央聚合器，解决性能瓶颈与隐私风险。其核心创新在于“预热阶段”，通过轮前混淆、随机延迟和协调调度（tracker不参与数据传输）实现轮内源不可链接性，防止攻击者通过P2P邻居关系推断更新来源。作者推导了传输归属后验概率的上界，并提出GreedyFastestFirst启发式调度，在100-500个节点时达到带宽最优值的约92%，预热开销稳定在约12%。在Gemma-7B、DeepSeek-R1-14B等大模型测试中，相对于纯BitTorrent仅增加6-10%端到端开销，且对抗观察型本地攻击者和合谋攻击均保持鲁棒。
论文联邦学习隐私保护P2P网络
推荐理由：该工作首次在去中心化FL中实现轮内不可链接性与BitTorrent级效率共存，为大规模分布式机器学习隐私保护提供了实用方案，尤其适合对隐私敏感或需要弹性扩容的场景。
原文