Refusals(模型拒答)指大语言模型在面对有害、违规或超出能力边界请求时主动拒绝回答的行为机制,是 AI 对齐与安全的核心组成,也是衡量模型“是否听话又不过度保守”的关键指标。随着模型被广泛部署,拒答行为正从单纯的安全防线变成一个需要精细调节的工程问题:拒得太硬影响可用性,拒得太松则带来合规与滥用风险。
Refusals 的最新研究进展
当前焦点与观察点
围绕 Refusals 的讨论集中在三个方向。其一是过度拒答(false refusal)问题:模型因训练时的安全倾向,对正常请求也频繁拒绝,这直接损害产品体验,各家厂商都在通过后训练和系统提示调优来压低误拒率。其二是拒答的可绕过性:研究表明,攻击者可以通过微调、越狱提示等手段削弱模型的安全拒绝行为,因此防御方法正从静态规则转向扰动训练等更动态的策略。其三是可解释性:无论是 CLI 工具让拒绝自带原因说明,还是学术工作量化拒绝强度,业界共识正在形成——拒绝不应该是黑盒的“不行”,而应是可审计、可追溯的决策。
值得观察的是,随着 Agent 在真实任务中拥有更多执行权限,拒答机制的角色正在扩大:它不仅决定模型“说什么”,也开始决定 Agent“做不做”。未来一段时间,拒绝行为的粒度控制、透明度以及与安全合规框架的衔接,会是这一话题持续演进的主线。