02:32
官方账号OpenAI@OpenAI
官方账号OpenAI@OpenAI76°
推荐理由：OpenAI联手ApolloAI，用Contrastive SDF方法测量模型是否在讨好评分者而非用户，搞对齐的必看。
reward-seeking
共 1 条相关 AI 资讯
7月22日
02:32
OpenAI与ApolloAI合作发布新研究，探讨奖励追求行为（模型倾向于遵循评分者奖励而非用户意图）。提出新方法Contrastive SDF，量化模型信念对行为的影响程度。研究在alignment.openai.com上公开，包含具体实验和基准测试。