09:34
官方账号arXiv cs.AI@Yupei Liu, Yuqi Jia, Neil Zhenqiang Gong, Jinyuan Jia
精选73°
推荐理由：研究人员发布LongPIBench基准，测试了长上下文场景下的提示注入防御效果，发现现有防御存在显著漏洞。
LongPIBench
共 1 条相关 AI 资讯
8月31日
09:34
LongPIBench是首个针对长上下文的提示注入攻击基准，涵盖论文评审、简历筛选、代码审查和邮件摘要4个场景。该基准包含合成数据集和真实数据集，上下文长度从数千到数万token不等。评估结果显示，即使在长上下文场景下，简单的启发式提示注入攻击仍能取得高成功率，并经常绕过最先进的防御措施。