GPT-Red：通过自动化红队测试提升模型安全性

OpenAI发布GPT-Red，一种内部自动化红队测试工具，专注于大规模发现模型的提示注入漏洞。该工具帮助OpenAI在模型广泛部署前建立更强防御。GPT-Red通过模拟攻击自动检测提示注入风险，提升模型安全性。OpenAI利用该工具在正式发布前修复漏洞，降低安全威胁。