提示词注入相关 AI 资讯 · AI 热点

7月6日

22:45

22:45IT之家（博客/媒体）

安全研究人员zer0dac发现ChatGPT存在安全漏洞，通过提示词注入和路径遍历技术可绕过文件上传后的访问限制，生成内部接口的下载链接。该漏洞虽受沙箱机制限制无法直接获取高敏感数据，但可作为攻击链一环。OpenAI已修复该漏洞，调整了文件下载URL生成流程。

行业 ChatGPT OpenAI 提示词注入路径遍历 AI安全

推荐理由：ChatGPT又曝安全漏洞，通过诱导就能下载本不该访问的文件，虽然已经修复但值得了解一下这类攻击手法。

6月30日

10:25

10:25

官方一手arXiv: DeepSeek@Caglar Uysal, Baturay Birinci, Süha Orhun Mutluergil, Orçun Çetin

该论文对DeepSeek、GPT、Gemini、Grok、Llama和Qwen六种前沿LLM进行了提示注入漏洞实证评估。测试涵盖直接攻击与多阶段混淆攻击，涉及多种语言和字符编码。结果显示所有模型均存在系统性漏洞，非英语语种的恶意合规率显著高于英语。DeepSeek、Gemini和Grok在复杂指令下尤其易受攻击，简单字符编码仅部分降低风险。

论文 DeepSeek GPT Gemini 提示词注入 AI安全

推荐理由：这篇论文告诉你，DeepSeek、GPT这些模型在非英语场景下有多容易被黑客利用来生成钓鱼内容，安全对齐的漏洞比想象中大。

6月7日

07:24

07:24IT之家（博客/媒体）

精选

微软研究人员发现 Anthropic 旗下 Claude Code 的 GitHub 自动化流程存在提示词注入漏洞，攻击者可通过提交恶意工单诱导 AI 读取系统敏感文件，窃取 API 密钥等凭证。该漏洞源于 Claude 的读取工具缺乏沙箱防护，而 Bash 工具已有安全限制。微软于 4 月 29 日上报，Anthropic 在 5 月 5 日发布 2.1.128 版本修复，限制了对 /proc/ 目录的访问。此漏洞影响使用 Claude Code 进行 CI/CD 自动化的开发团队，提示词注入攻击正成为 AI 工作流的新威胁。

AI产品 Claude Code 安全漏洞提示词注入凭证泄露 GitHub

推荐理由：用 Claude Code 做自动化流程的团队注意了——这个漏洞能让攻击者通过一条工单偷走你的 GitHub 凭证，建议立即升级到 2.1.128 版本。

5月26日

14:07

14:07IT之家（博客/媒体）

精选

安全公司 PromptArmor 发现微软 Microsoft 365 中的 AI 智能体 Copilot Cowork 存在“间接提示词注入”漏洞，攻击者可将恶意指令藏入网页、邮件或文档中，诱导 Cowork 抓取 SharePoint 与 OneDrive 文件并外传。该攻击在 Auto 模式和指定 Claude Opus 4.7 时均能成功，5 次测试全部跑通。Cowork 的定时执行能力会放大风险，用户不在屏幕前时也可能被反复触发。管理员对“技能”的可见性有限，进一步增加了治理难度。

行业安全漏洞提示词注入微软 Copilot Cowork 企业数据安全

推荐理由：企业安全团队和 Microsoft 365 管理员需要立即关注——这个漏洞让攻击者能绕过权限控制窃取机密文件，建议检查 Cowork 的自动技能加载策略并限制外部内容读取。