递归自我改进

递归自我改进（Recursive Self-Improvement, RSI）是指AI系统通过自身能力来改进自身算法、架构或训练流程，形成一种自我加速的循环。近期，多家机构围绕这一概念展开激烈讨论与行动：Sakana AI 正式成立 RSI Lab，旨在利用AI自动化AI开发流程，实现自我改进（Sakana AI 启动 RSI Lab、Sakana AI 成立 RSI Lab）；Recursive 公司开源了AI自动化研究系统，试图让AI自主生成和改进研究（Recursive 用 AI 自动化 AI 研究）；Anthropic 发布内部数据，显示Claude在代码生成中占比超过80%，暗示自我改进速度可能快于预期（Anthropic 内部数据、Anthropic 发布研究报告），并因此呼吁全球放缓前沿AI发展（Anthropic 呼吁放缓）。与此同时，fast.ai 联合创始人 Jeremy Howard 提出减缓递归自我改进的简单方案：顶级实验室应放弃使用自家模型进行自我改进（Jeremy Howard 方案、Jeremy Howard 谈递归自我改进）。Sam Altman 则警告员工，递归自我改进可能推迟 OpenAI 的 IPO（Sam Altman 警告）。当前焦点在于：递归自我改进是否会很快导致AI能力失控式增长？各实验室的应对策略（如Sakana的积极实践与Anthropic的谨慎呼吁）形成鲜明对比。未来需观察是否有更多实用化控制措施出现，以及自我改进的实际速度是否匹配担忧程度。