OpenAI 详解 GPT-Red：自动红队模型以84%胜率击败人类

OpenAI 训练了内部自动红队模型 GPT-Red，采用自我对弈强化学习对抗防御模型。在间接提示注入基准测试中，GPT-Red 以 84% 对 13% 的胜率击败人类红队。它还发现了一种新型攻击类别 "Fake Chain-of-Thought"。在 OpenAI 最难的直接注入基准上，GPT-Red 将 GPT-5.6 Sol 的失败次数减少了 6 倍。不过，OpenAI 承认该模型在多轮对话和基于图像的攻击方面仍有不足。