02:53
官方一手marktechpost@Asif Razzaq
官方一手marktechpost@Asif Razzaq77°
推荐理由：OpenAI 搞了个 GPT-Red 自动红队模型，提示注入赢人类 84% 对 13%，还发现了 Fake Chain-of-Thought 攻击。
GPT-Red
共 9 条相关 AI 资讯
7月17日
02:53
OpenAI 训练了内部自动红队模型 GPT-Red，采用自我对弈强化学习对抗防御模型。在间接提示注入基准测试中，GPT-Red 以 84% 对 13% 的胜率击败人类红队。它还发现了一种新型攻击类别 "Fake Chain-of-Thought"。在 OpenAI 最难的直接注入基准上，GPT-Red 将 GPT-5.6 Sol 的失败次数减少了 6 倍。不过，OpenAI 承认该模型在多轮对话和基于图像的攻击方面仍有不足。
7月16日
11:39
11:39IT之家（博客/媒体）
精选
推荐理由：OpenAI搞了个内部红队模型GPT-Red，自动找漏洞，攻击成功率从95%降到10%以下，效果很实在。
04:20
04:20
官方账号Decoder@Matthias Bastian
73°
推荐理由：OpenAI让AI自己找自己的漏洞，成功率84%比人类高6倍多，还直接用来加固新模型。
03:54
03:54
官方账号Greg Brockman@gdb
官方账号Greg Brockman@gdb精选73°
推荐理由：OpenAI搞了个自动红队GPT-Red，专门找自家模型的提示注入漏洞，部署前先修好，安全又可靠。
02:56
02:56
elvis@omarsar0
elvis@omarsar073°
推荐理由：OpenAI 用 GPT-Red 对抗训练 GPT-5.6，让模型更抗提示注入，安全提升很实在。
02:26
02:26
官方账号OpenAI@OpenAI (@OpenAI)
官方账号OpenAI@OpenAI (@OpenAI)73°
推荐理由：OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。
02:25
02:25官方账号OpenAI@OpenAI (@OpenAI)
官方账号OpenAI@OpenAI (@OpenAI)精选
推荐理由：OpenAI 刚晒出 GPT-5.6 Sol，抗 prompt 注入比四个月前强了 6 倍，安全能力大幅提升。
02:24
02:24官方账号OpenAI@OpenAI (@OpenAI)
官方账号OpenAI@OpenAI (@OpenAI)推荐理由：OpenAI说他们用AI agent让模型自己变安全了，通过GPT-Red项目，下一代模型会更可靠。
01:14
01:14官方一手OpenAI Blog（博客/媒体）
推荐理由：OpenAI搞了个新系统叫GPT-Red，让模型自己打自己来找出漏洞，专门防提示注入这类攻击，挺实用的。