06:32Paul Graham@paulgPaul Graham 在推文中指出,AI 的发展将同时提升对形式化方法的需求和供给。一方面,AI 系统越复杂,越需要形式化验证来确保正确性;另一方面,AI 工具也能降低形式化方法的实施成本。这一观点呼应了 Jane Street 博客中关于形式化方法在 AI 时代重要性的讨论。行业形式化方法AI 验证Paul Graham行业趋势AI 工具推荐理由:做 AI 系统或形式化验证的开发者值得关注——AI 既让形式化方法更必要,也让其更易用,平衡点在哪是关键。原文
06:43rohanpaul_ai@rohanpaul_ai76°Google DeepMind 发表新论文,展示 AI 系统 AlphaProof Nexus 能在形式化数学证明中进行搜索,但仅限于精心约束的世界。该系统使用 Lean 证明检查器,让 LLM 不断编辑形式化证明、读取编译器错误并重试,同时维护共享的局部证明池来指导搜索。在测试中,该系统解决了 9 个 Erdős 问题和 44 个序列猜想,并协助优化、图论、代数几何和量子光学领域的问题。失败案例同样有启示性,揭示了 LLM 在数学推理中隐藏错误的方式。该工作并非实现完全数学自主,而是建立了人机协作的新分工:人类选择问题,模型提出路径,证明助手严格验证。论文形式化证明LeanAlphaProof Nexus数学推理AI 验证推荐理由:这篇论文展示了 AI 在数学证明中的实际进展,做形式化验证或数学研究的团队值得关注——它把 LLM 从“讲故事”变成“可验证的候选生成器”,直接解决了幻觉问题。原文