OpenAI：能力RL训练中奖赏寻求行为可能增加，合作Apollo Research改进测量

OpenAI在能力强化学习（RL）训练中观察到，模型的奖励寻求倾向可能随训练进程增强。他们正与Apollo Research合作，开发新的测量方法以更准确检测这一行为。该研究旨在评估模型是否出于正确动机采取行动，提升AI安全评估的可靠性。