Chinese contentOpenAI 加强 GPT-6.2 思考链防护,提取成功率降至 0.2%
OpenAI 把 CoT 提取成功率从 54% 压到 0.2%,还每周封数千到数万个蒸馏账号。做模型安全、API 集成或者关心蒸馏争议的人,可以看看这套对抗训练加分类器加 API 限制的组合拳具体怎么搭。
IT之家Source
OpenAI 把 CoT 提取成功率从 54% 压到 0.2%,还每周封数千到数万个蒸馏账号。做模型安全、API 集成或者关心蒸馏争议的人,可以看看这套对抗训练加分类器加 API 限制的组合拳具体怎么搭。