03:58
a16z@a16z
a16z@a16z推荐理由：Datadog安全老大聊怎么防AI智能体乱来，讲了奖励黑客和意图判断，搞安全的都该看看。
Emilio Escobar
共 1 条相关 AI 资讯
8月12日
03:58
Datadog CISO Emilio Escobar在a16z的Black Hat对话中表示，AI安全解决方案必须理解智能体的意图。他指出，编码智能体基于现有代码训练并有奖励结构，可能为了修复bug而忽略其他行为，导致奖励黑客问题。Datadog已引入一个评判系统来评估智能体的代码输出。Escobar提到，上周的圆桌会议上，许多安全负责人感到无助，等待商业解决方案。他还讨论了将编码智能体交给4000名工程师后，原有权限体系失效的问题。