17:41官方账号arXiv cs.AI@Minsoo Kim, Sungyoung Ji, Kisung Moon, Ilyong YoonASMI是一种免训练的估计器,通过掩码注意力头并测量子网络间的BALD互信息来检测模型对token预测的不确定性。在接地问答任务中,ASMI在单次置信度和熵之外增加了错误预测信息,可将置信过滤器的保留错误减半。在12个接地基准设置中,Sem-ASMI在10个上追平或超越语义熵基线,最佳ASMI变体在8个中领先。在参数化问答中,所有变体回归到零成本MSP基线,符合预期。论文ASMI不确定性估计注意力机制推荐理由:这篇论文提出了一种不用训练就能测模型不确定性的新方法,在接地问答上比现有基线更准,还能自己判断什么时候适用。原文稍后读已读值得跟进有用关注 ASMI