#形式验证

这篇论文提出了SMC-ES，把进化策略和统计模型检查结合起来，能生成带形式安全证明的控制策略。比普通RL更靠谱。

这篇论文用Rust和形式化验证搞了个安全内核，1000次自修改加6240次授权测试都拦住了逃逸，比那些吹控制智能体的系统实在多了。

这篇论文用Lean在定理证明训练中引入细粒度过程奖励，比只判对错的强化学习效果好，在MiniF2F和ProofNet上都有提升。

YC 研究者分享自博弈和AI生物学新进展

Y Combinator@ycombinator原文

形式验证是 AI 生成代码质量保障的关键，做 AI 安全或软件验证的开发者可以直接用这个基准测试自己的模型，看看能否补全 Lean 证明。