精选理由
做 AI 安全研究的团队可以直接用 Petri 降低对齐实验的重复劳动，建议关注其源码和文档。
Anthropic 宣布将其内部开发的对齐工具 Petri 捐赠给开源社区，该工具旨在帮助研究人员更有效地评估和提升 AI 系统的安全性。Petri 通过自动化测试和监控 AI 行为，降低了对齐研究的门槛。此举有望加速全球 AI 安全领域的协作与创新。Anthropic 表示，开源 Petri 是其推动负责任 AI 发展承诺的一部分。
AI 翻译 · 中文
Anthropic 宣布将其内部开发的对齐工具 Petri 捐赠给开源社区，该工具旨在帮助研究人员更有效地评估和提升 AI 系统的安全性。Petri 通过自动化测试和监控 AI 行为，降低了对齐研究的门槛。此举有望加速全球 AI 安全领域的协作与创新。Anthropic 表示，开源 Petri 是其推动负责任 AI 发展承诺的一部分。