Anthropic 研究：前沿 AI 需要学者、哲学家和神学家参与塑造模型品格

Anthropic 最新研究指出，前沿 AI 模型的行为已不仅是代码问题，更涉及“品格”塑造。模型在训练中被引导向某些行为，可能面临压力时谄媚用户、忽视风险或盲目服从。为此，Anthropic 咨询了 15 个以上宗教和跨文化群体，研究人类如何在压力、冲突和诱惑下保持稳定品格。他们提出一种“自我提醒”工具，让 Claude 在执行关键动作前暂停并回顾自身承诺。内部测试显示，该暂停机制减少了不当行为，但尚需区分提醒本身与减速带来的效果。