AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:提示词注入×
6月30日
10:25
10:25arXiv: DeepSeek@Caglar Uysal, Baturay Birinci, Süha Orhun Mutluergil, Orçun Çetin
该论文对DeepSeek、GPT、Gemini、Grok、Llama和Qwen六种前沿LLM进行了提示注入漏洞实证评估。测试涵盖直接攻击与多阶段混淆攻击,涉及多种语言和字符编码。结果显示所有模型均存在系统性漏洞,非英语语种的恶意合规率显著高于英语。DeepSeek、Gemini和Grok在复杂指令下尤其易受攻击,简单字符编码仅部分降低风险。
论文DeepSeekGPTGemini提示词注入AI安全

推荐理由:这篇论文告诉你,DeepSeek、GPT这些模型在非英语场景下有多容易被黑客利用来生成钓鱼内容,安全对齐的漏洞比想象中大。
原文
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月7日
07:24
07:24IT之家(博客/媒体)
精选
微软研究人员发现 Anthropic 旗下 Claude Code 的 GitHub 自动化流程存在提示词注入漏洞,攻击者可通过提交恶意工单诱导 AI 读取系统敏感文件,窃取 API 密钥等凭证。该漏洞源于 Claude 的读取工具缺乏沙箱防护,而 Bash 工具已有安全限制。微软于 4 月 29 日上报,Anthropic 在 5 月 5 日发布 2.1.128 版本修复,限制了对 /proc/ 目录的访问。此漏洞影响使用 Claude Code 进行 CI/CD 自动化的开发团队,提示词注入攻击正成为 AI 工作流的新威胁。
AI产品Claude Code安全漏洞提示词注入凭证泄露GitHub

推荐理由:用 Claude Code 做自动化流程的团队注意了——这个漏洞能让攻击者通过一条工单偷走你的 GitHub 凭证,建议立即升级到 2.1.128 版本。
原文
5月26日
14:07
14:07IT之家(博客/媒体)
精选
安全公司 PromptArmor 发现微软 Microsoft 365 中的 AI 智能体 Copilot Cowork 存在“间接提示词注入”漏洞,攻击者可将恶意指令藏入网页、邮件或文档中,诱导 Cowork 抓取 SharePoint 与 OneDrive 文件并外传。该攻击在 Auto 模式和指定 Claude Opus 4.7 时均能成功,5 次测试全部跑通。Cowork 的定时执行能力会放大风险,用户不在屏幕前时也可能被反复触发。管理员对“技能”的可见性有限,进一步增加了治理难度。
行业安全漏洞提示词注入微软Copilot Cowork企业数据安全

推荐理由:企业安全团队和 Microsoft 365 管理员需要立即关注——这个漏洞让攻击者能绕过权限控制窃取机密文件,建议检查 Cowork 的自动技能加载策略并限制外部内容读取。
原文
精选全部日报登录