精选理由
这篇论文提出了CoMet，能高效估计多模态语言模型的不确定性，比现有方法更准更快，很适合做AI可靠性的研究者看。
CoMet是一种针对多模态大语言模型（MLLM）的不确定性估计方法，将不确定性分解为上下文项和多样性项，分别捕捉任务或提示引发的歧义以及上下文确定的合理答案数量。该方法训练一个轻量级后验不确定性模块，无需自回归生成答案或重复采样即可高效估计不确定性。在多个开放多模态基准测试、幻觉检测和多项选择VQA基准上，CoMet持续优于现有基线，且保持计算效率。代码已开源。
AI 翻译 · 中文
CoMet是一种针对多模态大语言模型（MLLM）的不确定性估计方法，将不确定性分解为上下文项和多样性项，分别捕捉任务或提示引发的歧义以及上下文确定的合理答案数量。该方法训练一个轻量级后验不确定性模块，无需自回归生成答案或重复采样即可高效估计不确定性。在多个开放多模态基准测试、幻觉检测和多项选择VQA基准上，CoMet持续优于现有基线，且保持计算效率。代码已开源。
Uncertainty estimation has been a long-standing challenge in AI models; it amounts to "knowing what you don't know," and metacognition is notoriously difficult even for humans (cf. the Dunning-Kruger effect). Although it…