精选理由
OpenAI 出了个工具叫 Presence，专门管企业 AI Agent 上线后的安全，能防权限开太大、改规则后乱操作，还能用真实难单做测试，挺实用的。
OpenAI 推出 Presence，专为企业 AI Agent 上线后的安全管控设计。它能监控接入订单系统、账单系统等核心业务的 Agent，检测规则修改是否会引发误操作。同时评估权限设置是否过大，避免 Agent 意外操作敏感账户。Agent 上线前可进行真实难单压力测试，运行出故障时自动回滚并通知责任人。
原文 · 小互
OpenAI 发布 Presence：企业 AI Agent 上线后怎么管，会不会出错，它来管 当AI连上公司的订单系统、账单系统... 规则一改，会不会乱操作？权限开大了，会不会动到不该动的账户...
OpenAI 发布 Presence：企业 AI Agent 上线后怎么管，会不会出错，它来管 当AI连上公司的订单系统、账单系统... 规则一改，会不会乱操作？权限开大了，会不会动到不该动的账户？上线前有没有用真实难单练过？线上翻车了谁负责改、改完会不会更糟？ Presence 针对的，就是这一串问题。。。 best.xiaohu.ai/article/openai… 💬 2 🔄 0 ❤️ 4 👀 1165 📊 3 ⚡