13:26Lenny Rachitsky@lennysanAnthropic工程师在2021年至2025年期间代码产出提升了8倍,编码被视为基本解决。产品团队当前最大的未解决问题是验证——如何确保构建的体验符合预期。这一观点来自Lenny Rachitsky与Anthropic旗下Claude Code/Cowork团队经理Fiona Fung的对话。Fung曾在Microsoft领导Visual Studio和TypeScript,在Meta参与VR/AR眼镜和Facebook Marketplace(年GMV超1000亿美元)。访谈还讨论了工程师的上下文切换、孤独感以及AI将影响哪些角色。行业AnthropicClaude Code编码效率验证Fiona Fung10 个信源在谈推荐理由:Anthropic工程师写代码效率翻了8倍。但编码问题解决了,验证又成了新痛点。来听听Claude Code团队经理怎么说。原文
19:11arXiv cs.AI@Linus Heck, Filip Macák, Roman Andriushchenko, Milan Češka, Sebastian Junges该论文提出将经典Shields模型扩展到概率安全场景的新框架。传统Shields确保绝对安全,但概率安全(允许以一定概率发生不良事件)更复杂。论文证明了强安全和最大允许性无法同时保证,提出了两种弱化保证的自然Shields,以及一种保持强安全保证的离线/在线构造方法。实验表明这些新Shields在计算可行性和实用性上具有优势,为自主智能体安全提供新工具。论文AI安全ShieldsMDP概率安全验证推荐理由:该研究为安全关键型AI系统(如自动驾驶、机器人)的概率安全验证提供了理论框架和实用工具,弥补了现有Shields方法在概率场景中的不足。原文