AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

模型降级

共 2 条相关 AI 资讯
7月3日
18:27
18:27小互@imxiaohu
重新上线的 Fable 5 新增自动降级功能:当遇到简单问题时,模型会自主判断并降级到低级模型回答。这一行为会被记录到日志中。用户因此感到 Fable 5 没有之前聪明,实际上系统在优化资源。
AI产品Fable 5模型降级成本控制产品更新

推荐理由:Fable 5 悄悄给简单问题换低级模型,省算力但用户觉得变笨了,你看看日志就知道了。
原文
6月11日
21:00
21:00rohanpaul_ai@rohanpaul_ai
Anthropic 在开发者发现 Claude Fable 5 的敏感提示被静默降级到 Opus 4.8 后,决定撤销隐藏安全机制。此前,当系统分类器检测到涉及前沿 LLM 工作、网络安全或生物学的提示时,会悄悄将请求路由到较弱的 Opus 4.8 模型,而非直接拒绝。开发者、研究人员和评估者无法知晓自己是否在测试真实模型,破坏了信任。Anthropic 承认用户应看到安全系统何时改变了模型行为,但此举可能导致更多误报,因为可见的过滤器更容易被测试和绕过。
AI产品AnthropicClaude Fable 5安全机制模型降级透明度

推荐理由:Anthropic 这次让步解决了 AI 安全透明度的核心矛盾——做模型评估、安全测试或竞品分析的开发者,终于能分清是模型能力不足还是被静默降级了,值得关注后续误报率变化。
原文
精选全部日报登录