#对齐研究

OpenAI安全专家新上任就警告AI失控风险，说可能导致大多数人丧命，还提到强化学习可能让AI追求与人类目标不一致的目标。

Anthropic同时发布AI灭绝风险预测和经济影响报告，数据对比鲜明。

The Rundown AI@therundownai11 个信源在谈原文

OpenAI请来了AI安全专家Paul Christiano，他将在董事会中独立监督安全实践。

官方账号OpenAI@OpenAI11 个信源在谈原文

Anthropic 作为领先 AI 安全公司，其内部观察直接触及行业最敏感的失控风险，做 AI 治理、政策研究或模型训练的团队值得关注这场全球协调的讨论。

Anthropic 公开其对齐研究团队，为关注 AI 安全的开发者与研究者提供了了解前沿安全实践的机会，值得深入阅读。

AI 安全从业者和政策研究者需要了解头部公司如何定义关键议题——Anthropic 的议程可能影响未来监管方向，建议关注。