Anthropic 警告：AI 自主构建继任者可能加剧对齐问题直至失控

Anthropic 发布研究警告，指出虽然递归式自我改进尚未实现，但若趋势持续，AI 自主构建继任者成为可能。这可能导致社会变革或加剧对齐问题，甚至失控。Anthropic Institute 将开展研究，探索如何让世界就技术未来做出审慎集体决策。目前尚不清楚 Claude 是否具备研究判断力。