#Agent-SafetyBench

共 3 条 · 7 天 0 条 · 30 天 0 条

AI安全 3 智能体 3 LLM Agents 1 LLM智能体 1 LoopHarness 1 NiyamAI 1 SHE 1 零知识证明 1

信息流里打上「Agent-SafetyBench」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月28日

论文精选73°19:37

LLM智能体安全状态跨迭代持久化研究

MIT学者发现LLM智能体安全漏洞，提出LoopHarness解决跨迭代攻击问题，安全性能显著提升。

#LLM Agents #Agent-SafetyBench #LoopHarness #智能体

arXiv cs.AI@Chenhao Wu 等 14 人原文

8月11日

SHE框架：通过轨迹驱动进化LLM智能体安全边界

SHE把智能体安全从模型权重扩展到运行框架，分解成四个可独立进化的组件，实测攻击成功率降3.1倍，还能跨模型迁移，搞AI安全的值得看看。

#SHE #LLM智能体 #AI安全 #Agent-SafetyBench

arXiv cs.AI@Wanying Qu 等 15 人原文

8月10日

NiyamAI：基于零知识证明的可验证AI Agent安全护栏

NiyamAI给AI Agent装上了密码学护栏，每个危险操作都能被证明拦住了，比传统过滤靠谱。

#NiyamAI #Agent-SafetyBench #零知识证明 #AI安全

arXiv: OpenAI@Aditya Katkar 等 5 人原文