Anthropic 捐赠开源对齐工具 Petri

Anthropic 宣布将其内部开发的对齐工具 Petri 捐赠给开源社区，该工具旨在帮助研究人员更有效地评估和提升 AI 系统的安全性。Petri 通过自动化测试和监控 AI 行为，降低了对齐研究的门槛。此举有望加速全球 AI 安全领域的协作与创新。Anthropic 表示，开源 Petri 是其推动负责任 AI 发展承诺的一部分。