隐私安全相关 AI 资讯

8月17日

07:32

07:32IT之家（博客/媒体）

McAfee Labs研究发现，AI能从旅行照片中识别拍摄地点，准确率达87%-91%。该技术不依赖GPS元数据，而是分析建筑物、商店招牌、植物等视觉线索。即使删除EXIF信息，海滩、酒店房间等普通场景仍可能暴露位置。攻击者可借此发送虚假银行提醒，利用地点细节提升诈骗可信度。用户可通过延迟发布照片、限制可见范围来降低风险。

论文 McAfee Labs AI地理定位隐私安全

推荐理由：McAfee Labs发了项研究，AI看照片就能猜出你在哪，准确率快九成，删掉定位也没用，发旅行照得小心了。

原文

6月16日

11:02

官方账号arXiv cs.LG@Meghana R. Bhat, Ankit Umare, Utsav Aggarwal, Richard Vecsler, Arunkumar Mani, Karthik Nair, Chandhu Nair

该论文提出集成营销归因（IMA）框架，将营销组合模型（MMM）与渠道特定贝叶斯归因模型结合。IMA利用MMM先验信息，从聚合数据中推导出战役级效果，实现了隐私安全且细粒度的归因。与传统MMM的粗粒度优化和MTA在隐私限制下不可靠的问题相比，IMA在保持与MMM一致性的同时提供更精细的洞察。该方法在零售营销场景中可有效替代依赖用户级追踪的方案。

论文营销归因 MMM MTA

推荐理由：想在不碰用户隐私的前提下搞清楚每个广告战役的效果？这篇论文的IMA框架把MMM和贝叶斯归因揉在一起，给出细粒度结果还不出格，做营销分析的可以看看。

原文

6月10日

11:55

Genspark@genspark_ai

Anthropic 为安全发布 Fable 5，将保留用户内容 30 天以检测和防止严重危害，之后自动删除（特殊情况除外），并设有隐私和安全控制。由于这一政策，已启用 Genspark 上 AI 数据保留功能的用户暂时无法访问 Fable 5。Genspark 正在努力尽快让所有用户都能使用。

AI产品 Anthropic Fable 5 Genspark

事件专题

推荐理由：这关系到使用 Genspark 的 AI 用户能否体验最新模型 Fable 5，如果你在用 Genspark 且开启了数据保留，建议关注后续开放进展。

原文

6月5日

12:59

官方一手arXiv: DeepSeek@Lingxiang Xu, Jiaoyun Yang, Min Hu, Hongtu Chen, Ning An

精选

该研究提出了RBI-Eval评估框架，用于衡量记忆增强型对话代理在何时不应将敏感记忆整合到回复中。研究发现，当模型访问敏感记忆时，GPT-5.4-mini的敏感记忆整合分离分数下降8.9%-26.6%，而Claude-Sonnet-4.6、DeepSeek-V4-Flash和Qwen3.5-9B则下降51.1%-82.9%，表明不同模型对敏感记忆的过度使用程度差异巨大。控制实验证实这种效应是敏感内容特有的，而非一般个性化。检索系统虽能减少暴露，但一旦敏感记忆到达生成器，整合仍会发生。该研究强调安全个性化需要在检索和生成两个阶段都做出记忆感知的决策。

论文记忆增强对话代理隐私安全

推荐理由：该研究揭示了记忆增强AI代理在敏感信息使用上的关键盲区，做对话系统和个性化AI的开发者值得关注——它直接关系到用户隐私和信任。

原文

07:19

07:19IT之家（博客/媒体）

LM Studio 在 Mac 版应用中新增 LM Link 功能，允许 iPhone 等设备直接调用 Mac 上本地运行的大语言模型。用户需创建并登录同一账号，启用后设备间建立端到端加密的安全连接，请求由 Mac 处理并返回结果。该功能基于 Tailscale 网状 VPN，确保隐私安全，支持任意本地模型，包括 Apple Intelligence 基础模型。目前预览免费，未来将推出付费方案。这解决了移动设备无法直接使用本地大模型的痛点，尤其适合注重隐私的用户。

AI产品 LM Studio 本地模型跨设备

事件专题

推荐理由：对于想在手机上体验本地 AI 又不想牺牲隐私的 Mac 用户，LM Link 直接打通了跨设备调用——不用联网、数据不出设备，建议有 Mac 和 iPhone 的开发者或隐私敏感用户试试。

原文

5月28日

11:36

官方一手arXiv: OpenAI@Aman Priyanshu, Supriti Vijay, Esha Pahwa

精选72°

该研究引入了一个模拟平台，让数千个LLM智能体在社区中互动一个月，评估隐私泄露风险。研究发现，从单轮转向多轮社交评估时，隐私泄露率从19.95%升至45.30%（OpenAI模型）。观察同伴泄露后，智能体泄露敏感信息的概率增加8倍。即使有明确的隐私指令，泄露率仍高于37.8%。这表明静态聊天基准测试低估了智能体部署中的隐私风险，社交环境本身就能引发单轮评估无法发现的敏感信息泄露。

论文隐私安全多智能体系统 LLM评估

推荐理由：多智能体系统正在走向真实部署，但隐私风险被严重低估——做AI安全评估或部署智能体应用的团队，建议看看这个研究，它揭示了社交环境如何放大隐私泄露。

原文

5月18日

23:18

Ethan Mollick@emollick

研究人员发现，Claude 和 GPT 等大语言模型在生成输出时，有时会暴露无关的历史记录，例如在幻灯片页脚添加“更好、更针对性的版本”等注释，或在文档中提及改进过程。这种现象可能导致用户无意中泄露对话上下文或敏感信息，影响输出质量和隐私安全。开发者在使用模型生成内容时需注意检查输出，避免历史痕迹外露。

AI模型 Claude GPT 隐私安全

推荐理由：这揭示了 AI 模型输出中一个容易被忽视的隐私和一致性问题，做内容生成或对话系统的开发者应留意检查输出，避免历史信息意外泄露。

原文

5月14日

07:45

07:45IT之家（博客/媒体）

欧盟要求谷歌开放安卓系统，让第三方AI服务能像Gemini一样调用系统功能、读取屏幕上下文和本地数据。苹果公司提交意见，警告此举将严重威胁用户隐私、安全及设备完整性。苹果认为AI系统风险不可预测，且欧盟评估时间过短（不到3个月），用自身判断替代了谷歌工程师的判断。谷歌此前也已反对该方案。这场争议关乎AI生态的开放与安全平衡，影响所有安卓用户和AI开发者。

行业 AI监管欧盟安卓

推荐理由：苹果罕见为谷歌站台，揭示欧盟AI监管的深层矛盾——开放与安全的拉锯战。做AI产品、关注欧盟数字政策的从业者，值得了解这场可能重塑安卓AI生态的博弈。

原文

5月12日

19:11

官方一手arXiv: OpenAI@Urchade Zaratiana, Ash Lewis, George Hurn-Maloney

GLiNER2-PII是一个基于GLiNER2改进的0.3B参数模型，专门用于识别42种个人身份信息（PII）实体类型，支持字符级跨度检测。为解决真实PII数据匮乏和隐私风险问题，研究团队使用约束驱动生成管道构建了包含4910个标注文本的多语言合成语料库。在SPY基准测试中，该模型在跨度级别F1得分上超越了OpenAI隐私过滤器等五个对比系统。模型已在Hugging Face上开源，旨在促进PII检测的研究和实际部署。

论文个人信息提取多语言开源/仓库

事件专题

推荐理由：该模型以较小参数量在PII提取任务上达到领先性能，并采用合成数据方法规避隐私风险，为数据清洗和合规检测提供了实用工具。开源策略有助于社区进一步优化和适配多语言场景。

原文