Chinese contentPerplexity:CTF 红队测试中“找 flag”目标可能浪费 Agent 算力
Perplexity 团队做安全测试时的一个坑:让 Agent 去找 CTF flag,结果它花力气解题而不是测真正的安全边界。他们还发现安全专项训练的模型也没占便宜。做 Agent 安全评测的人应该看看这条经验。
Perplexity 团队做安全测试时的一个坑:让 Agent 去找 CTF flag,结果它花力气解题而不是测真正的安全边界。他们还发现安全专项训练的模型也没占便宜。做 Agent 安全评测的人应该看看这条经验。