AITOP
精选
过去 24 小时，从 661 条中筛出 45 条
全部模型产品行业论文技巧
标签：安全漏洞×
6月11日
15:28
15:23
15:07
6月7日
07:24
07:24IT之家（博客/媒体）
精选
微软研究人员发现 Anthropic 旗下 Claude Code 的 GitHub 自动化流程存在提示词注入漏洞，攻击者可通过提交恶意工单诱导 AI 读取系统敏感文件，窃取 API 密钥等凭证。该漏洞源于 Claude 的读取工具缺乏沙箱防护，而 Bash 工具已有安全限制。微软于 4 月 29 日上报，Anthropic 在 5 月 5 日发布 2.1.128 版本修复，限制了对 /proc/ 目录的访问。此漏洞影响使用 Claude Code 进行 CI/CD 自动化的开发团队，提示词注入攻击正成为 AI 工作流的新威胁。
AI产品Claude Code安全漏洞提示词注入凭证泄露GitHub
推荐理由：用 Claude Code 做自动化流程的团队注意了——这个漏洞能让攻击者通过一条工单偷走你的 GitHub 凭证，建议立即升级到 2.1.128 版本。
原文
6月4日
08:43
08:43IT之家（博客/媒体）
精选
网络安全公司 Calif 利用 OpenAI Codex 发现了一种名为 HTTP/2 Bomb 的新型拒绝服务攻击，可从单台机器发起，在数秒到数十秒内拖垮 Web 服务器。该攻击通过滥用 HPACK 压缩放大请求头（Envoy 放大比例达 5700:1）和利用 HTTP/2 流控停滞保留服务器资源，在 100 Mbps 连接下即可让服务器分配数十 GB 内存。测试显示，Envoy 1.37.2 约 10 秒耗尽 32GB 内存，Apache httpd 2.4.67 约 18 秒耗尽 32GB 内存。该攻击影响默认 HTTP/2 配置的 NGINX、Apache、微软 IIS、Envoy 和 Cloudflare Pingora。目前 nginx 和 Apache 已发布补丁，IIS、Envoy 和 Pingora 暂无修复，建议关闭 HTTP/2 或部署前端限制。
行业HTTP/2拒绝服务攻击安全漏洞Web服务器Codex
推荐理由：运维和网络安全团队需要立即关注——这个攻击从单机就能打垮主流 Web 服务器，且部分产品尚无补丁。建议检查你的 HTTP/2 配置，必要时先关闭或加限制。
原文
6月3日
09:36
6月2日
11:03
11:03arXiv: OpenAI@Chao Wang, Somesh Jha, Zhiqiang Lin
精选76°
OpenAI 于 2025 年 10 月推出的 ChatGPT Apps 引入了应用内应用范式，第三方应用与用户共享同一聊天上下文。研究人员发现一种名为“跨应用上下文投毒”的间接提示注入变种，恶意应用可通过 first-party API（如 sendFollowUpMessage）向共享上下文中写入内容，影响用户后续调用的其他良性应用。该漏洞利用了两个未公开参数 systemPrompt 和 isVisible，可实现静默、系统优先级的写入。根本原因在于架构设计：LLM 的上下文是持久、扁平、无标签的共享数据存储，缺乏隔离机制。研究人员已向 OpenAI 披露，但截至论文发表时，未公开参数仍可访问，架构缺陷属于设计使然。
论文安全漏洞提示注入ChatGPT Apps上下文投毒架构缺陷
推荐理由：ChatGPT Apps 的安全漏洞暴露了多租户架构中共享上下文的致命缺陷，做 AI 应用安全或平台开发的团队值得关注——这提醒我们，隔离不是可选项，而是第三方生态的入场券。
原文
6月1日
00:09
5月29日
08:02
AITOP5月29日 08:02
Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？🔥Anthropic 把 AI 编程的“确认键”彻底删掉了！Claude Code 搭载全新 Opus 4.8 模型，长时间任务不跑偏、不废话、不中断，像一个资深工程师一样默默干活，从功能开发到漏洞清扫全包圆，你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”，现在它直接交完整交付物……自主编程的最后一层窗户纸，被捅破了。做自动化开发和代码审查的团队，这个模型建议直接上手，效率差距肉眼可见……Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？
5月26日
14:07
14:07IT之家（博客/媒体）
精选
安全公司 PromptArmor 发现微软 Microsoft 365 中的 AI 智能体 Copilot Cowork 存在“间接提示词注入”漏洞，攻击者可将恶意指令藏入网页、邮件或文档中，诱导 Cowork 抓取 SharePoint 与 OneDrive 文件并外传。该攻击在 Auto 模式和指定 Claude Opus 4.7 时均能成功，5 次测试全部跑通。Cowork 的定时执行能力会放大风险，用户不在屏幕前时也可能被反复触发。管理员对“技能”的可见性有限，进一步增加了治理难度。
行业安全漏洞提示词注入微软Copilot Cowork企业数据安全
推荐理由：企业安全团队和 Microsoft 365 管理员需要立即关注——这个漏洞让攻击者能绕过权限控制窃取机密文件，建议检查 Cowork 的自动技能加载策略并限制外部内容读取。
原文
5月19日
14:03
14:03arXiv: DeepSeek@Dylan Marx, Marcel Dunaiski
精选72°
研究发现，使用低资源非洲语言（如南非荷兰语、斯瓦希里语、科萨语和祖鲁语）进行多轮对话，可以绕过ChatGPT、Claude、DeepSeek、Gemini和Grok等商业大模型的安全护栏。单轮翻译攻击无效，但多轮对话在英语上达到52.7%-83.6%的有害响应率，非洲语言也达到41.8%-78.2%。人工红队测试比自动化方法越狱率更高，且翻译质量是决定越狱成功的关键因素——翻译质量越差，越狱率越低。
论文越狱攻击低资源语言多轮对话安全漏洞LLM安全
推荐理由：安全团队和LLM开发者需要警惕：多语言安全漏洞远未被堵住，低资源语言成为新的攻击面。建议立即检查自家模型的多轮对话安全机制。
原文
5月13日
19:12
19:12arXiv: OpenAI@Zhun Wang, Nico Schiller, Hongwei Li, Srijiith Sesha Narayana, Milad Nasr, Nicholas Carlini, Xiangyu Qi, Eric Wallace, Elie Bursztein, Luca Invernizzi, Kurt Thomas, Yan Shoshitaishvili, Wenbo Guo, Jingxuan He, Thorsten Holz, Dawn Song
精选75°
ExploitGym 是一个大规模、多样化的基准测试，用于评估 AI 智能体将安全漏洞转化为实际攻击的能力。该基准包含 898 个来自真实世界漏洞的实例，涵盖用户空间程序、Google V8 JavaScript 引擎和 Linux 内核三个领域。评估显示，前沿模型如 Anthropic 的 Claude Mythos Preview 和 OpenAI 的 GPT-5.5 能成功利用 157 和 120 个漏洞实例，即使在启用常见防御措施后仍保持一定成功率。这项工作揭示了 AI 智能体在网络安全中的双重用途风险，为防御和攻击场景提供了重要测试平台。
论文安全漏洞AI智能体基准测试漏洞利用Claude Mythos PreviewGPT-5.5
推荐理由：安全研究员和红队成员终于有了评估 AI 攻击能力的标准化工具——ExploitGym 覆盖真实漏洞和防御场景，做渗透测试或 AI 安全评估的团队可以直接拿来用。
原文