GPT-Red：利用自我对弈提升AI鲁棒性

OpenAI发布了GPT-Red，一个自动化红队测试系统。该系统采用自我对弈机制，让大模型相互对抗生成测试用例，以提升对提示注入等攻击的鲁棒性。GPT-Red旨在通过自动化的对抗训练，持续改进AI模型的安全性和对齐性。