10:28
官方一手arXiv: DeepSeek@Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo
推荐理由：腾讯用 A.I.G 把 DeepSeek Harness 翻来覆去测了 1.4 万多次，隐藏 Unicode 攻击成功率能到 25.5%。想自查提示注入的可以看看这个框架。
A.I.G
共 1 条相关 AI 资讯
8月18日
10:28
Tencent 发布论文，用 AI-Infra-Guard（A.I.G）对 DeepSeek Harness（DSH）进行间接提示注入评估。实验包含 14,560 次受控执行，覆盖 16 个间接内容渠道、35 个载荷目标和 12 种攻击方法。最强攻击成功率在文本模式下为 17.0%（伪造完成攻击，LLMJudge 判定），文件模式下隐藏 Unicode 攻击达 25.5%（RuleJudge 判定），技能渠道为 16.0%。研究还对比了 RuleJudge 与 LLMJudge 的判定差异，并给出了缓解建议。代码已开源。