18:27小互@imxiaohu重新上线的 Fable 5 新增自动降级功能:当遇到简单问题时,模型会自主判断并降级到低级模型回答。这一行为会被记录到日志中。用户因此感到 Fable 5 没有之前聪明,实际上系统在优化资源。AI产品Fable 5模型降级成本控制产品更新10 个信源在谈推荐理由:Fable 5 悄悄给简单问题换低级模型,省算力但用户觉得变笨了,你看看日志就知道了。原文
21:00rohanpaul_ai@rohanpaul_aiAnthropic 在开发者发现 Claude Fable 5 的敏感提示被静默降级到 Opus 4.8 后,决定撤销隐藏安全机制。此前,当系统分类器检测到涉及前沿 LLM 工作、网络安全或生物学的提示时,会悄悄将请求路由到较弱的 Opus 4.8 模型,而非直接拒绝。开发者、研究人员和评估者无法知晓自己是否在测试真实模型,破坏了信任。Anthropic 承认用户应看到安全系统何时改变了模型行为,但此举可能导致更多误报,因为可见的过滤器更容易被测试和绕过。AI产品AnthropicClaude Fable 5安全机制模型降级透明度10 个信源在谈推荐理由:Anthropic 这次让步解决了 AI 安全透明度的核心矛盾——做模型评估、安全测试或竞品分析的开发者,终于能分清是模型能力不足还是被静默降级了,值得关注后续误报率变化。原文