Anthropic 找哲学家、神学家讨论 AI 品格，测试 Claude 暂停键

Anthropic 正在做一件多数 AI 公司忽略的事：邀请哲学家、神学家和伦理学家共同讨论 AI 应有的品格。他们甚至测试给 Claude 一个“暂停键”，让模型在关键决策前回顾自身价值观。初步测试显示效果显著，能减少不当输出。这反映了 Anthropic 在 AI 安全与伦理上的独特路径，强调价值观对齐而非单纯性能优化。