近期 AI 安全研究机构 Anthropic Institute 发布了 2026 年政策重点，同时该组织多次就 AI 递归自我改进导致的失控风险发出警示。这表明 Anthropic 正积极推动将技术安全研究转化为具体政策建议。
- 主要进展：
- Anthropic Institute 发布 2026 年议程，聚焦 AI 治理与安全政策。(原文)
- Anthropic 强调，AI 若具备自身构建继任能力，将加剧对齐问题，可能导致系统行为失控。(原文)
- 其在另一条推文中进一步警告递归自我改进可能带来不可预测风险，呼吁业界提前警惕。(原文)
当前焦点：如何平衡 AI 能力的快速演进与安全控制，尤其是当模型开始递归改进自身时。未来观察点：政策框架能否有效应对此类前沿风险。