AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：形式化验证×
6月16日
20:46
6月12日
12:57
12:55
10:26
10:26arXiv cs.AI@Achraf Hsain, Sultan Almuhammadi
本文提出盾牌强化学习（shielded reinforcement learning）不应仅作为运行时安全机制，而应作为设计阶段的分析工具。作者通过一个受约束的双人安全博弈实例，将规范编译、乘积博弈构建、吸引子计算和获胜区域提取等自动机理论方法，用于生成系统的结构性洞察，而非对部署智能体的运行时限制。该方法输出一个“可防御性判定”——一个形式化证书，表明拓扑-规范对是否可防御，并附带获胜区域和盾牌。结合吸引子结构的拓扑级度量和盾牌约束下的对抗多智能体强化学习行为，形成“可防御性指纹”，同时捕捉形式安全属性和自适应博弈下的操作行为。通过假设分析发现，形式可防御性与操作有效性捕捉了安全的不同方面：小的架构变化可导致操作结果的巨大变化，而形式安全裕度几乎不变。因此，盾牌合成最有价值之处不在于作为安全智能体的部署机制，而在于回答系统是否、何处以及如何可防御的架构问题。
论文盾牌强化学习形式化验证网络安全博弈论设计分析
推荐理由：这篇论文把盾牌合成从运行时约束工具重新定义为设计阶段的分析框架，做网络安全架构和形式化验证的团队值得一读——它提供了一种新思路，用形式化方法回答“系统到底能不能防住”这个根本问题。
原文
09:44
09:44arXiv: DeepSeek@Joshua Ong Jun Leang, Zheng Zhao, Mihaela Cătălina Stoian, Qiyuan Xu, Haonan Li, Wenda Li, Shay B. Cohen, Eleonora Giunchiglia
精选73°
Pythagoras-Prover 是一个计算高效的 Lean 定理证明器系列，包含 4B 和 32B 参数的自回归模型，以及首个基于扩散的证明器（4B）。通过课程式监督微调和动态证明过滤，训练效率大幅提升。其 4B 模型在 MiniF2F-Test 上以 86.1% 的 pass@32 超越 DeepSeek-Prover-V2-671B（82.4%），参数减少约 167 倍；32B 模型达到 93.0%，创下开源新纪录。团队还提出了增强型 Lean 形式化方法（ALF），通过扰动已知问题生成变体，减少对表面形式的依赖，并发布了 MiniF2F-ALF 基准。
论文定理证明器LeanPythagoras-Prover形式化验证计算效率
推荐理由：形式化证明领域终于有了计算高效的实用方案——4B 模型就能超越 671B 巨无霸，做定理证明或形式化验证的团队可以直接用，省下大量算力成本。
原文
6月11日
15:28
15:23
15:07
6月9日
12:28
12:28arXiv cs.LG@Sherwin Varghese, Matthew Wicker, Alessio Lomuscio
精选
随着AI在安全关键系统中的部署，形式化鲁棒性保证变得至关重要。现有验证方法要么过于保守，要么计算成本高昂。本文提出STBP（时空边界传播）框架，针对处理视频和体积输入的3D CNN，通过建模真实的时空约束（如攻击者只能修改连续帧中的子集或补丁）来获得更紧的近似。STBP对第一卷积层计算精确闭式解，后续层使用可扩展近似，在UCF-101、Udacity和MedMNIST等基准上实现了1.7倍更高的认证鲁棒准确率。同时，作者发布了ST-Bench基准，用于系统评估自动驾驶和活动识别中的可验证鲁棒性。
论文鲁棒性验证时空神经网络3D CNN形式化验证安全关键系统
推荐理由：做AI安全验证的团队终于有了兼顾精度和效率的方案——STBP用混合策略解决了传统方法要么太松要么太慢的困境，做视频/3D视觉鲁棒性验证的开发者可以直接参考。
原文
6月5日
12:58
12:58arXiv: DeepSeek@Arslan Bisharat, Brian Ortiz, Eric Spencer, Khushboo Bhadauria, TaiNing Wang, George K. Thiruvathukal, Konstantin Laufer, Mohammed Abuhamad
精选
TLA+是亚马逊、微软等公司用于工业验证的形式化语言，但将自然语言转化为正确的TLA+规范仍需专家经验。本文首次系统评估了30个LLM（含8个模型家族）在205个TLA+规范上的表现，使用SANY解析器和TLC模型检查器验证。结果显示，LLM最高语法正确率26.6%，但语义正确率仅8.6%，且成功案例全部来自渐进式提示。模型大小与质量无关，例如DeepSeek r1:8b在所有策略上优于其70B版本，表明推理对齐对形式语言更重要。代码专用模型因主流语言训练的负迁移而表现更差。研究识别了五种幻觉类别，均与训练数据偏差有关。
论文TLA+形式化验证LLM评估推理模型幻觉分析
推荐理由：形式化验证团队终于有了LLM能力的基准数据——当前模型无法可靠生成TLA+规范，但渐进式提示和推理对齐是突破口，做形式化方法或分布式系统验证的开发者值得关注。
原文
5月29日
11:06
11:06arXiv cs.AI@Anany Kotawala
多组件LLM智能体由多个子组件组成，每个子组件只看到联合问题的一部分，即使每个组件局部一致，组合后也可能违反基本概率公理。本文通过组合残差ε*形式化这种“局部一致、全局不一致”的失败，该残差可在运行时从系统输出和声明的跨组件耦合约束计算。研究在4个LLM的1876个集成团上发现，33-94%的团存在ε*>0，导致每赌注+0.115 nats的遗憾。三种直观的LLM侧缓解方法（检索、分区感知提示、聚合LLM）均失败或退化。
论文LLM智能体组合一致性概率推理形式化验证多组件系统
推荐理由：多组件LLM系统的组合一致性是实际部署中的关键问题，做智能体架构或概率推理的开发者会直接受益——本文提供了可计算的诊断方法和理论边界，值得关注其修复方案。
原文
5月26日
12:58
12:58IT之家（博客/媒体）
83°
谷歌 DeepMind 推出 AlphaProof Nexus，结合大语言模型与 Lean 形式化验证，在 353 个开放的 Erdős 问题中自主解决 9 个，包括 2 个悬而未决 56 年的问题。该系统由 4 个复杂度递增的 AI 智能体组成，每个问题推理成本仅数百美元。研究还发现，最简单的 Agent A 也能证明这些难题，反映出底层模型能力提升和编译器反馈的锚定作用。这标志着 AI 在数学研究领域取得重大突破，能自主发现并证明长期未解猜想。
AI模型谷歌 DeepMindAlphaProof Nexus数学证明形式化验证Erdős 问题
推荐理由：数学研究者和 AI 爱好者会兴奋——AlphaProof Nexus 用数百美元成本就解决了人类 56 年未解的难题，证明 AI 已能自主推进数学前沿，值得点开看看具体怎么做到的。
原文
10:29
5月25日
11:18
11:18arXiv cs.AI@Alessandro Sosso, Akhil Arora, Bas Spitters
精选
该论文评估了 Claude Code 在 CLEVER 基准（Lean 4 可验证代码生成）上的表现。结果显示，Claude 为 98.8% 的问题生成了有效的规范（其中 81.3% 通过了同构评分），87.5% 的问题通过了正确规范的实现验证，端到端管线成功率达 98.1%。Claude 还能对自身尝试提供高质量反馈，识别失败原因和数据集中的错误。这表明现有程序验证基准已不足以衡量现代智能体证明器的能力，需要更严格、抗错误的评估方法。
论文程序验证Lean 4Claude Code智能体证明形式化验证
推荐理由：程序验证是 AI 安全的关键环节，Claude Code 在 Lean 4 上接近完美的表现意味着做形式化验证的团队可以大幅提升效率，建议关注其编译器闭环范式。
原文
5月20日
15:41
15:41arXiv cs.AI@Gabriel Rongyang Lau
精选
本文报告了使用Aristotle API对IMO 2009第6题（Grasshopper问题）进行Lean 4形式化证明的案例。生成的代码包含一个广义定理的Lean版本、四个已验证的辅助引理，但主定理的证明中有一个未解决的“sorry”占位符。已验证的部分建立了局部数学性质，但全局组合计数步骤未被自动化证明覆盖。该案例揭示了AI辅助形式化的核心局限：局部证明搜索可以成功，但全局推理仍需人工介入。论文提供了可复现的Lean代码，并分析了已验证与未验证的证明内容。
论文定理证明Lean 4Aristotle API形式化验证IMO问题
推荐理由：这个案例对做AI辅助形式化验证的团队很有参考价值——它清晰展示了当前AI在局部引理证明上的能力，以及全局推理的瓶颈，做Lean或定理证明器开发的值得点开看看。
原文
5月19日
09:57
09:57arXiv cs.AI@Wentao Long, Yunfei Zhang, Chenyi Li, Li Zhou, Chumin Sun, Zaiwen Wen
精选
CAM-Bench是一个新的Lean 4定理证明基准，包含1000个计算与应用数学领域的证明目标，涵盖优化、数值线性代数和数值分析。这些题目改编自教科书习题，依赖局部定义、符号和算法。研究者开发了依赖恢复管道，将每个问题标准化为独立定理并翻译成Lean目标。该基准填补了现有形式化数学基准（如IMO风格问题）的空白，聚焦于应用数学中依赖教科书概念和初等定理的题目。评估显示，现有大模型和形式化代理在跟踪局部假设、应用初等结果、分解证明和长期控制方面存在常见失败模式。
论文定理证明Lean 4基准测试应用数学形式化验证
推荐理由：做形式化验证或AI数学推理的团队终于有了应用数学方向的专用基准，比纯代数题更贴近实际工程场景，建议关注其失败模式分析来改进模型。
原文
5月18日
12:14
12:14arXiv cs.AI@Augusto B. Corrêa, André G. Pereira, Jendrik Seipp
精选
本文提出一种属性引导的LLM程序合成方法，用于PDDL规划领域。传统方法依赖简单分数（如测试通过数）评估程序，缺乏失败原因反馈，导致大量无效生成和评估。新方法在程序违反形式化属性时立即停止评估，并返回具体反例，引导LLM修复。在10个规划域上的实验表明，该方法平均每个域生成程序数减少7倍，无需搜索即可解决更多任务，评估计算量降低数个数量级。该方法适用于任何存在可验证属性的问题，能显著降低成本并提升程序质量。
论文程序合成LLM规划形式化验证PDDL
推荐理由：做AI规划或程序合成的团队，这篇论文提供了一种减少LLM调用次数、提升生成效率的实用方法——用形式化属性替代分数反馈，直接给反例引导修复，值得点开看看具体实现。
原文
5月12日
19:11
19:11arXiv cs.LG@Nikita Kezins, Urbas Ekka, Pascal Berrang, Luca Arnaboldi
红队测试在实际中表现良好的护栏分类器无法提供形式化保证，因为“有害行为”缺乏离散输入空间中的自然规范。研究者提出将验证从离散输入空间转移到分类器的预激活空间，通过定义包含已知有害提示表示的有害区域，并利用sigmoid分类头的单调性，能在O(d)时间内给出封闭形式的可靠性证明。该框架应用于三种毒性护栏分类器，所有超矩形配置均返回SAT（即存在安全漏洞），而概率性高斯混合模型证书则揭示了模型表示危害的结构稳定性差异：GPT-2和Llama-3.1-8B保持90%和80%的覆盖率，但BERT的安全保证在最优阈值下覆盖率骤降至55%。这些方法提供了超越传统红队测试的护栏分类器有效性新见解。
论文AI安全形式化验证护栏分类器红队测试LLM
推荐理由：该研究首次为LLM护栏分类器提供了形式化验证方法，揭示了高经验指标下隐藏的安全漏洞，对AI安全领域具有重要指导意义。
原文
19:10
19:10arXiv cs.AI@Simon Yu, Derek Chong, Ananjan Nandi, Dilara Soylu, Jiuding Sun, Christopher D Manning, Weiyan Shi
Shepherd提出了一种函数式编程模型，将元Agent对目标Agent的操作形式化为函数，并通过Lean实现核心操作。该系统记录每个Agent-环境交互作为类型化事件，形成类似Git的执行轨迹，支持分叉和重放任意历史状态。实验表明，Shepherd的分叉速度比Docker快5倍，重放时提示缓存复用率超过95%。在运行时干预中，实时监督将配对编码通过率从28.8%提升至54.7%；在反事实元优化中，分支探索在四个基准上提升最多11个百分点，同时减少高达58%的壁钟时间；在树强化学习中，选择性地分叉展开将TerminalBench-2性能从34.2%提升至39.4%。Shepherd为元Agent编程提供了高效基础设施，并已开源。
论文智能体元Agent形式化验证运行时追踪开源/仓库
推荐理由：该工作为元Agent的运行时追踪和干预提供了一种形式化、高性能的解决方案，尤其适合需要细粒度回溯和优化的复杂Agent系统开发。其Lean形式化和Git式执行轨迹的设计对AI安全与调试有实际参考价值。
原文