信息流控制相关 AI 资讯 · AI 热点

7月28日

12:15

12:15

官方账号arXiv cs.AI@Arseny Kravchenko, Vadim Liventsev, Innokentii Konstantinov, Ildar Iskhakov, Matvey Kukuy

arXiv论文提出APPA（Agentic Permissions Policy Algebra），一种动态信息流控制（IFC）框架，解决传统污点追踪在LLM Agent中因永久污染上下文导致效用下降的问题。APPA通过引擎管理的上下文分支和前瞻性获取执行，在读取未验证数据前评估标签降级并生成补救计划（授权、接受）。该框架在多项工具调用基准上对四个模型评估，将攻击成功率从31%-50%降至0%-7%，且分支机制恢复了大部分因污点追踪丢失的效用。

论文 APPA LLM Agent 信息流控制

推荐理由：这篇论文讲了个新方法APPA，能让LLM Agent安全地处理混合敏感数据，既防提示注入又不牺牲太多功能。