Darwin

general · First seen 2026-06-09 · Last seen 2026-11-19 · 33 mentions

Overview

Darwin 在 AI 领域并非单一产品,而是一组以“进化、选择、自适应”为核心思想的研究与工程框架的统称:既包括让智能体随环境自我进化的 agent 框架,也包括用于大模型安全攻防的进化评估体系,还延伸到 Sakana AI 等公司推动的“AI 改进 AI”路线。近期,围绕 Darwin 相关方向的讨论集中在自进化智能体、进化策略的有效性边界,以及递归自我改进的工程化落地。

Darwin 相关研究近期进展

  • Darwin-Claw 论文在 arXiv 上提出了一个环境自适应的自进化智能体框架,核心思路是让智能体根据运行环境反馈持续调整自身策略与结构,被视为进化式 agent 设计的代表性尝试(Darwin-Claw 论文提出环境自适应的自进化智能体框架)。
  • 安全领域同样出现了同名思路:DARWIN 框架通过进化攻防方式对大语言模型进行安全评估与防护,用攻击与防御的迭代演化暴露模型弱点(DARWIN:通过进化攻防框架实现LLM安全评估与防护)。
  • 但进化隐喻并非处处有效。一篇题为 Dictionaries, Not Darwin 的论文指出,在方程发现任务上,基于 LLM 的进化策略表现不佳,并提出以 PTB-Search 替代(Dictionaries, Not Darwin: 论文指出LLM进化策略在方程发现中失效,提出PTB-Search)。
  • Sakana AI 宣布邀请深度学习先驱 Jürgen Schmidhuber 出任首席科学顾问(Sakana AI 宣布 Jürgen Schmidhuber 出任首席科学顾问);此前该公司已成立 RSI Lab,探索用 AI 自我改进 AI 开发流程(Sakana AI 成立 RSI Lab)。
  • 当前焦点与观察点

    第一,进化式方法的能力边界正在被重新审视。Darwin 类框架在开放环境的智能体任务中展现出适应性,但 Dictionaries, Not Darwin 一文提醒:当问题存在更优的结构化搜索空间时,盲目套用进化策略可能不如显式的字典式枚举。研究者开始区分“进化适合什么、不适合什么”。

    第二,递归自我改进(RSI)从概念走向工程。Lilian Weng 在博客中提出 Harness Engineering 的思路,把 AI 递归式自我改进落到工程框架层面,而 HGM-Dual 等工作则关注长程规划中带谱系感知的智能体 Harness 优化。这与 Sakana AI 成立 RSI Lab、引入 Schmidhubber 的动作相互呼应,表明“AI 改进 AI”正从论文走向团队建制。

    第三,进化思想也在向安全评估渗透。DARWIN 攻防框架显示,演化式对抗测试可能成为大模型安全评测的常规手段,但也带来评估结果可复现性、攻击成本等新问题。

    整体看,Darwin 相关方向的共同趋势是把“选择压力”显式工程化:无论是智能体自我进化、安全攻防迭代,还是 AI 改进 AI 的流程自动化,争议点都集中在效率、可控性与可验证性上。观察这些框架能否在标准基准上稳定超越传统方法,将是判断该路线价值的下一个节点。

    Coverage

    10 on file