GPT-Red 通过对抗训练提升 GPT-5.6 的提示注入防御能力

OpenAI 发布了内部自动化红队工具 GPT-Red，用于大规模发现模型中的提示注入漏洞。GPT-Red 对 GPT-5.6 进行了对抗性训练，显著增强了其对抗提示注入的鲁棒性。该方法以高投资回报率提升了 AI 模型的安全性，帮助在更广泛部署前构建更强防御。