#scoring rubrics

6 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "scoring rubrics", newest first.
Oct 9
Jun 18
Jun 3
May 20
May 13
PapersSelected19:12
Chinese content基于评分标准的强化学习中的奖励黑客问题研究

这篇论文揭示了RLHF中一个被低估的风险——模型可能学会刷分而非真正变强。做AI对齐和模型训练的团队值得一读,尤其是那些依赖评分标准进行RL优化的,看完会对验证器设计有更深警惕。

arXiv cs.AI@Anas Mahmoud et al. (6)Source