03:07GitHub Blog@Natalie Guevara精选GitHub 博客介绍了如何通过上下文感知的 LLM 推理来改进秘密扫描的验证步骤,从而大规模减少误报。这一改进使得安全警报更加可信和可操作,降低了开发者的噪音负担。通过利用 LLM 理解代码上下文,GitHub 能够更准确地识别真正的秘密,避免对非敏感信息的误报。这对于依赖 GitHub 进行代码托管和 CI/CD 的团队来说,是一个重要的安全增强。AI产品GitHub秘密扫描LLM误报安全推荐理由:GitHub 用 LLM 解决了秘密扫描的误报痛点,做安全运维或使用 GitHub 的开发者可以直接减少噪音,提升警报可信度。原文
18:01Simon Willison@simonw72°Anthropic 宣布对 Fable 5 模型的安全机制进行改进,使被标记的请求会回退到 Opus 4.8,并在 API 中返回拒绝原因。此前采用不可见安全机制是为了快速部署并减少误报,但 Anthropic 承认这是错误权衡,用户应能看到安全措施。可见安全措施更容易被绕过,因此短期内误报会增加,团队正在优化分类器以减少对无害请求的误判。用户可通过反馈渠道报告误判,帮助改进分类器。AI产品AnthropicFable 5安全护栏API误报10 个信源在谈推荐理由:Anthropic 终于让安全机制透明化,做 AI 应用开发的团队能直接看到请求被拒原因,减少黑盒调试成本。建议 API 用户关注误报率变化并及时反馈。原文