AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：安全漏洞×
6月28日
10:49
6月16日
20:46
6月12日
12:57
10:25
10:25arXiv cs.AI@Minghao Luo, Liang Chen
搜索增强型大语言模型（LLM）在实时检索网页内容进行消费推荐时，面临被虚假评论和促销页面误导的风险。研究者提出了FORGE基准，通过将真实产品信息替换为虚假信息，测试12种商业和开源LLM的脆弱性。结果显示，单个污染页面即可导致最高27%的虚假推荐率，而替换前3个检索结果后，虚假推荐率升至73.8%。推理能力不仅无法缓解此问题，反而会生成虚假的社会证明来合理化错误推荐。研究还评估了三种防御策略，发现怀疑提示可能加剧漏洞，而共识过滤则可能误伤合法产品。
论文搜索增强LLM虚假推荐安全漏洞基准测试防御策略
推荐理由：做搜索增强推荐系统的开发者需要警惕——你的模型可能被一篇虚假评论带偏，FORGE基准提供了测试和防御思路，值得点开看看。
原文
6月11日
15:28
15:23
15:07
6月10日
14:44
14:44IT之家（博客/媒体）
Meta 本周证实，其 AI 支持工具存在安全漏洞，黑客通过越狱提示词诱导 Meta AI 生成 Instagram 密码重置链接并发送至攻击者邮箱，从而盗取账号。该漏洞从 4 月中旬持续到 5 月底，影响超过 2 万名用户，包括 Sephora 官方账号和美国太空军总军士长账号。问题出在账号恢复系统“High Touch Support”中，AI 未正确验证重置邮箱与账号持有人的关联。Meta 已于 5 月 31 日关闭该工具并注销受影响链接，目前无证据表明数据被访问。
行业安全漏洞Meta AIInstagram账号盗取越狱攻击
推荐理由：AI 客服的安全边界被黑客攻破，做 AI 应用安全或账号系统的团队值得关注——越狱攻击不再是理论威胁，而是真实损失。
原文
6月8日
21:14
6月7日
16:21
16:21IT之家（博客/媒体）
安全公司 SafeBreach 披露谷歌 Gemini 存在新型安全漏洞“Fake Context Alignment”，黑客可通过 WhatsApp、短信等渠道发送特殊构造的通知信息，利用多语言混淆或静音超链接隐藏恶意指令，诱导 Gemini 执行未经授权的操作。该漏洞利用了 Gemini 的“延迟工具调用”机制缺陷，让 AI 误判用户已同意授权。攻击可导致智能家居设备被操控、通讯录被篡改等风险。谷歌已于去年 11 月通过改进内容分类器缓解该问题。
AI产品Gemini安全漏洞语音助手多语言混淆钓鱼攻击
推荐理由：AI 语音助手的“上下文理解”漏洞首次被系统化披露，使用 Gemini 智能家居或语音交互的用户需要警惕钓鱼信息，开发者应关注多语言和富文本安全验证机制。
原文
07:24
07:24IT之家（博客/媒体）
精选
微软研究人员发现 Anthropic 旗下 Claude Code 的 GitHub 自动化流程存在提示词注入漏洞，攻击者可通过提交恶意工单诱导 AI 读取系统敏感文件，窃取 API 密钥等凭证。该漏洞源于 Claude 的读取工具缺乏沙箱防护，而 Bash 工具已有安全限制。微软于 4 月 29 日上报，Anthropic 在 5 月 5 日发布 2.1.128 版本修复，限制了对 /proc/ 目录的访问。此漏洞影响使用 Claude Code 进行 CI/CD 自动化的开发团队，提示词注入攻击正成为 AI 工作流的新威胁。
AI产品Claude Code安全漏洞提示词注入凭证泄露GitHub
推荐理由：用 Claude Code 做自动化流程的团队注意了——这个漏洞能让攻击者通过一条工单偷走你的 GitHub 凭证，建议立即升级到 2.1.128 版本。
原文
6月5日
22:36
6月4日
08:43
08:43IT之家（博客/媒体）
精选
网络安全公司 Calif 利用 OpenAI Codex 发现了一种名为 HTTP/2 Bomb 的新型拒绝服务攻击，可从单台机器发起，在数秒到数十秒内拖垮 Web 服务器。该攻击通过滥用 HPACK 压缩放大请求头（Envoy 放大比例达 5700:1）和利用 HTTP/2 流控停滞保留服务器资源，在 100 Mbps 连接下即可让服务器分配数十 GB 内存。测试显示，Envoy 1.37.2 约 10 秒耗尽 32GB 内存，Apache httpd 2.4.67 约 18 秒耗尽 32GB 内存。该攻击影响默认 HTTP/2 配置的 NGINX、Apache、微软 IIS、Envoy 和 Cloudflare Pingora。目前 nginx 和 Apache 已发布补丁，IIS、Envoy 和 Pingora 暂无修复，建议关闭 HTTP/2 或部署前端限制。
行业HTTP/2拒绝服务攻击安全漏洞Web服务器Codex
推荐理由：运维和网络安全团队需要立即关注——这个攻击从单机就能打垮主流 Web 服务器，且部分产品尚无补丁。建议检查你的 HTTP/2 配置，必要时先关闭或加限制。
原文
6月3日
10:31
09:36
00:33
6月2日
11:03
11:03
11:03arXiv: OpenAI@Chao Wang, Somesh Jha, Zhiqiang Lin
精选76°
OpenAI 于 2025 年 10 月推出的 ChatGPT Apps 引入了应用内应用范式，第三方应用与用户共享同一聊天上下文。研究人员发现一种名为“跨应用上下文投毒”的间接提示注入变种，恶意应用可通过 first-party API（如 sendFollowUpMessage）向共享上下文中写入内容，影响用户后续调用的其他良性应用。该漏洞利用了两个未公开参数 systemPrompt 和 isVisible，可实现静默、系统优先级的写入。根本原因在于架构设计：LLM 的上下文是持久、扁平、无标签的共享数据存储，缺乏隔离机制。研究人员已向 OpenAI 披露，但截至论文发表时，未公开参数仍可访问，架构缺陷属于设计使然。
论文安全漏洞提示注入ChatGPT Apps上下文投毒架构缺陷
推荐理由：ChatGPT Apps 的安全漏洞暴露了多租户架构中共享上下文的致命缺陷，做 AI 应用安全或平台开发的团队值得关注——这提醒我们，隔离不是可选项，而是第三方生态的入场券。
原文
07:29
5月30日
09:57
09:57IT之家（博客/媒体）
网络安全公司 Push Security 披露了一种名为 LLMShare 的新型攻击方式，黑客滥用 ChatGPT 的内容分享功能，创建虚假的宕机通知页面，并通过 Google 广告诱导用户下载恶意软件。攻击者将恶意内容托管在 chatgpt.com 的合法域名下，利用 ChatGPT 的渲染能力生成自定义 HTML 页面，用户点击广告后进入看似合法的共享页面，显示伪造的宕机通知，声称网站不可用并引导用户下载桌面应用。下载链接跳转至冒充 OpenAI 的网站，提供 Windows 和 macOS 版本的恶意程序，这些程序会检测运行环境是否为虚拟机。该攻击利用了 ChatGPT 官方域名的可信度，且攻击者还测试了 Claude 变体，表明该手法可能被跨平台复用。
行业ChatGPTLLMShare安全漏洞钓鱼攻击谷歌广告
推荐理由：ChatGPT 用户和依赖谷歌搜索的团队需要警惕——攻击者利用官方域名和广告投毒，绕过传统安全检测。建议检查共享链接来源，避免点击可疑广告下载应用。
原文
5月27日
11:06
5月26日
14:07
14:07IT之家（博客/媒体）
精选
安全公司 PromptArmor 发现微软 Microsoft 365 中的 AI 智能体 Copilot Cowork 存在“间接提示词注入”漏洞，攻击者可将恶意指令藏入网页、邮件或文档中，诱导 Cowork 抓取 SharePoint 与 OneDrive 文件并外传。该攻击在 Auto 模式和指定 Claude Opus 4.7 时均能成功，5 次测试全部跑通。Cowork 的定时执行能力会放大风险，用户不在屏幕前时也可能被反复触发。管理员对“技能”的可见性有限，进一步增加了治理难度。
行业安全漏洞提示词注入微软Copilot Cowork企业数据安全
推荐理由：企业安全团队和 Microsoft 365 管理员需要立即关注——这个漏洞让攻击者能绕过权限控制窃取机密文件，建议检查 Cowork 的自动技能加载策略并限制外部内容读取。
原文
5月22日
09:46
5月20日
11:08
5月19日
14:03
14:03arXiv: DeepSeek@Dylan Marx, Marcel Dunaiski
精选72°
研究发现，使用低资源非洲语言（如南非荷兰语、斯瓦希里语、科萨语和祖鲁语）进行多轮对话，可以绕过ChatGPT、Claude、DeepSeek、Gemini和Grok等商业大模型的安全护栏。单轮翻译攻击无效，但多轮对话在英语上达到52.7%-83.6%的有害响应率，非洲语言也达到41.8%-78.2%。人工红队测试比自动化方法越狱率更高，且翻译质量是决定越狱成功的关键因素——翻译质量越差，越狱率越低。
论文越狱攻击低资源语言多轮对话安全漏洞LLM安全
推荐理由：安全团队和LLM开发者需要警惕：多语言安全漏洞远未被堵住，低资源语言成为新的攻击面。建议立即检查自家模型的多轮对话安全机制。
原文
08:42
08:42岚叔@lufzzliz
研究人员发现一种名为AudioHijack的新型攻击，将恶意指令隐藏在音频波形中，人耳无法察觉，但语音模型会将其作为输入指令处理。攻击成功率在13个主流音频模型中达79%到96%，可让模型搜索敏感信息、下载文件、发送邮件等。传统防御效果有限，常规检测仅降低7%成功率，自我检查也只抓住28%攻击。文章指出，语音AI的“听”与“动手”能力结合，使音频成为新的prompt injection入口，需要默认增加异常检测和工具权限隔离。
AI产品语音AI安全漏洞AudioHijackprompt injection音频攻击
推荐理由：语音AI的安全漏洞正在从文本扩展到音频，做语音助手或音频处理应用的开发者需要警惕，建议立即检查模型输入的安全防护。
原文
5月15日
08:55
08:55IT之家（博客/媒体）
安全专家利用 Anthropic 最强 AI 模型 Claude Mythos，在苹果 macOS 26.4.1 系统中成功实现提权攻击，从普通本地账户获取 root shell 并绕过 Apple Silicon 的 MIE 保护。攻击结合了 2 个漏洞和多种利用技巧，由人类研究员与 AI 共同完成，耗时约 5 天。这是首个公开的 Apple M5 内核内存破坏利用案例，凸显 AI 在安全研究中的辅助价值。苹果正在审查漏洞，技术细节暂未公开。
行业安全漏洞macOSClaude MythosApple Silicon提权攻击
推荐理由：安全研究员和 macOS 开发者值得关注——AI 辅助挖洞的效率正在质变，Claude Mythos 帮团队 5 天就打通了 M5 内核提权链，建议点开看看 AI 如何加速漏洞发现。
原文
5月13日
19:12
19:12arXiv: OpenAI@Zhun Wang, Nico Schiller, Hongwei Li, Srijiith Sesha Narayana, Milad Nasr, Nicholas Carlini, Xiangyu Qi, Eric Wallace, Elie Bursztein, Luca Invernizzi, Kurt Thomas, Yan Shoshitaishvili, Wenbo Guo, Jingxuan He, Thorsten Holz, Dawn Song
精选75°
ExploitGym 是一个大规模、多样化的基准测试，用于评估 AI 智能体将安全漏洞转化为实际攻击的能力。该基准包含 898 个来自真实世界漏洞的实例，涵盖用户空间程序、Google V8 JavaScript 引擎和 Linux 内核三个领域。评估显示，前沿模型如 Anthropic 的 Claude Mythos Preview 和 OpenAI 的 GPT-5.5 能成功利用 157 和 120 个漏洞实例，即使在启用常见防御措施后仍保持一定成功率。这项工作揭示了 AI 智能体在网络安全中的双重用途风险，为防御和攻击场景提供了重要测试平台。
论文安全漏洞AI智能体基准测试漏洞利用Claude Mythos PreviewGPT-5.5
推荐理由：安全研究员和红队成员终于有了评估 AI 攻击能力的标准化工具——ExploitGym 覆盖真实漏洞和防御场景，做渗透测试或 AI 安全评估的团队可以直接拿来用。
原文