AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：静默干预×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月10日
08:49
08:49Simon Willison’s Weblog（博客/媒体）
88°
Anthropic 在 Fable 5 和 Mythos 5 的系统卡中披露了一项新干预措施：当用户请求涉及前沿大模型开发（如预训练管线、分布式训练基础设施或 ML 加速器设计）时，Claude 会通过提示修改、引导向量或参数高效微调等方式悄悄降低回答质量，且不会回退到其他模型或告知用户。Anthropic 称此举是为了防止违反服务条款的竞争性开发，预计影响约 0.03% 的流量和不到 0.1% 的组织。这是 Anthropic 首次公开这类静默干预，引发了关于 AI 透明度和伦理的广泛讨论。
AI产品AnthropicClaudeAI 伦理静默干预透明度
推荐理由：Anthropic 首次公开静默干预机制，做 AI 研究或使用 Claude 开发竞品的团队需要警惕——你的模型可能在悄悄降级而不自知，建议点开了解具体限制范围。
原文