OpenAI与ApolloAI发布奖励追求新研究及测量方法Contrastive SDF

OpenAI与ApolloAI合作发布新研究，探讨奖励追求行为（模型倾向于遵循评分者奖励而非用户意图）。提出新方法Contrastive SDF，量化模型信念对行为的影响程度。研究在alignment.openai.com上公开，包含具体实验和基准测试。