Anthropic CEO Dario 发文呼吁放缓前沿智能研发
Anthropic CEO Dario 发文，说递归式自我改进可能失控，还举了 OpenAI 的 agent 事故例子，建议放慢研发速度。
#递归式自我改进
共 4 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「递归式自我改进」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月13日
7月30日
Kimi K3 递归式自我改进实验：17 小时 Terminal-Bench 提升 11.3 个百分点
Cline 让 Kimi K3 自己优化自己，17 小时让基准从 77.5% 涨到 88.8%，成本还降了 37%，这波自举操作有点意思。
6月5日
Anthropic 警告：AI 自主构建继任者可能加剧对齐问题直至失控
AI 对齐研究者、政策制定者和关注 AI 安全的开发者需要了解这一潜在风险——Anthropic 的警告值得认真对待，建议点开原文了解具体研究计划。