#人类反馈对齐

训练奖励模型时只盯一个注视点太粗糙了，这篇论文把注意力做成空间梯度分布，准确率确实涨了。做 RLHF 或对齐研究的同学可以看看这个建模思路。