Papers12:02
Chinese contentMAGIC：用基尼系数检测医疗多模态模型的幻觉医疗多模态模型看片子也会一本正经地胡说，这篇给了一个不用重训模型的检测法：用基尼系数看注意力在图像和文字间怎么分布，幻觉回答的分布明显不同。做医疗 AI 可靠性或 LLM 可解释性的研究者和工程团队都值得跑一下代码对比现有基线。
医疗多模态模型看片子也会一本正经地胡说，这篇给了一个不用重训模型的检测法：用基尼系数看注意力在图像和文字间怎么分布，幻觉回答的分布明显不同。做医疗 AI 可靠性或 LLM 可解释性的研究者和工程团队都值得跑一下代码对比现有基线。