#红队测试

一篇把流行病学的种群动态思路搬到智能体安全上的论文，核心发现很反直觉：协作让智能体多了个数量阈值，越过就失控。

一篇把 AI 安全防御写成博弈论的论文，算出了什么时候修 bug、做红队才划算，还证明修复快不代表被攻陷概率低。

一篇教你怎么在部署前自动找智能体漏洞的论文，72 个真实漏洞复现，攻击成功率比 Codex 高出不少，做智能体安全的必看。

OpenAI内部红队测试细节可能透露AI安全新进展，推文提到ExploitGym和5.6-Sol子代理

官方账号Simon Willison@simonw11 个信源在谈原文

OpenAI 搞了个 GPT-Red 自动红队模型，提示注入赢人类 84% 对 13%，还发现了 Fake Chain-of-Thought 攻击。

官方一手marktechpost@Asif Razzaq11 个信源在谈原文

想了解如何自动化挖Claude Code和Codex的漏洞？这篇论文提出了AHA方法，比现有方法强14%，还能跨场景复用。搞智能体安全的值得看。

这篇论文拿多个模型种群跑了几万局游戏，发现换一条规则，事故率能差 58 个百分点，而且匿名化也挡不住针对性消除。做多智能体安全的一定要看。

这篇论文直接用阈值加风险控制就能搞定LLM安全监控，效果不输那些复杂方法，适合快速落地。

做音频安全或深度伪造检测的团队，终于有了一个无需手动标注就能自动发现模型盲点的工具——FoeGlass用LLM上下文学习就搞定了，建议直接跑一下开源代码看看效果。

该研究首次为LLM护栏分类器提供了形式化验证方法，揭示了高经验指标下隐藏的安全漏洞，对AI安全领域具有重要指导意义。