精选理由
OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。
OpenAI 发布内部自动化红队测试系统 GPT-Red，旨在大规模发现其模型的提示注入漏洞。该工具通过自动化攻击模拟，帮助 OpenAI 在模型更广泛部署前识别并修复安全缺陷。GPT-Red 是 OpenAI 提升 AI 模型防御能力的关键举措，专注于提示注入这一常见攻击向量。
原文 · OpenAI
Introducing GPT-Red An internal automated red teamer on a mission to find our models’ prompt inject...
Introducing GPT-Red An internal automated red teamer on a mission to find our models’ prompt injection vulnerabilities at scale, helping us build stronger defenses before wider deployment. openai.com/index/unlockin… 💬 157 🔄 182 ❤️ 2256 👀 148967 📊 393 ⚡