Anthropic：递归自我改进可能到来，但需警惕失控风险

Anthropic 在 X 上发文讨论递归自我改进的可能性，指出虽然 Claude 目前尚不具备研究判断能力（即选择正确问题的能力），但如果趋势持续，AI 系统设计和构建自身后继者将成为可能。这有望在医学、科技和经济领域带来革命性改善，但也可能加剧对齐问题并最终导致失控。Anthropic Institute 将与外部利益相关者合作，研究日益强大、可能自我改进的系统的潜在影响，并探索如何让世界对技术未来发展做出审慎选择。