10:41
官方账号arXiv cs.AI@Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan
推荐理由：这篇论文提出了RLMF方法，让LLM学会说“我不知道”，比普通RL方法效果提升63%，解决了模型过度自信的问题。
RLMF
共 1 条相关 AI 资讯
7月1日
10:41
大型语言模型在表达不确定性时存在高置信度幻觉、无法识别知识边界等问题。论文提出强化学习与元认知反馈（RLMF）范式，利用模型自我判断质量来优化偏好排序。在忠实校准任务上，RLMF比标准强化学习提升最多63%。方法还包含元认知数据选择，优于朴素主动学习。实验表明RLMF在多种任务上达到最先进性能。