精选理由
AI 对齐研究者、政策制定者和关注 AI 安全的开发者需要了解这一潜在风险——Anthropic 的警告值得认真对待，建议点开原文了解具体研究计划。
Anthropic 发布研究警告，指出虽然递归式自我改进尚未实现，但若趋势持续，AI 自主构建继任者成为可能。这可能导致社会变革或加剧对齐问题，甚至失控。Anthropic Institute 将开展研究，探索如何让世界就技术未来做出审慎集体决策。目前尚不清楚 Claude 是否具备研究判断力。
AI 翻译 · 中文
Anthropic 发布研究警告，指出虽然递归式自我改进尚未实现，但若趋势持续，AI 自主构建继任者成为可能。这可能导致社会变革或加剧对齐问题，甚至失控。Anthropic Institute 将开展研究，探索如何让世界就技术未来做出审慎集体决策。目前尚不清楚 Claude 是否具备研究判断力。
这一切并不保证递归式自我改进就在眼前——目前尚不清楚 Claude 是否具备研究判断力。 但若趋势持续，AI 自主构建继任者是可能的，或改变社会，或加剧对齐问题直至失控。 Anthropic Institute 将开展研究，探索如何让世界就技术未来做出审慎集体决策。 阅读全文： anthropic.com/institute/recu… 💬 1 🔄 0 ❤️ 0 👀 250 📊 1 ⚡ Powered by xgo.ing