Chinese content研究复现:RL 训练使 LLM 红队攻击多样性收窄
对做 LLM 安全的人来说这篇挺有用:它用 Qwen2.5-14B 攻 Phi-4-mini 的实战设置复现了一个此前只有 GRPO 报告过的现象,还给出了 ADR 这个可量化的指标。如果你在搭自动化红队流程,这里提供了具体训练配置,可以直接借鉴。
对做 LLM 安全的人来说这篇挺有用:它用 Qwen2.5-14B 攻 Phi-4-mini 的实战设置复现了一个此前只有 GRPO 报告过的现象,还给出了 ADR 这个可量化的指标。如果你在搭自动化红队流程,这里提供了具体训练配置,可以直接借鉴。