09:42官方账号arXiv cs.AI@Praveenkumar Katwe, Rakesh Chandra Balabantaray, Kali Prasad Vittala该研究提出了三个抽象性度量指标:Reference Abstraction (RA)、Summary Abstraction (SA) 和 Abstraction Ratio (AR),用调和均值与立方非重叠因子量化摘要偏离原文摘抄的程度。在100篇XSUM文档上对BART-large-cnn、Pegasus-xsum、DistilBart、MT5-small四个模型测试,SA在提取式模型(0.12-0.26)与抽象式模型(0.96-1.77)间有显著区分。AR指标还能识别需人工核查幻觉的摘要。代码和数据开源在GitHub。论文BARTPegasusXSUM推荐理由:论文提出了三个新指标,能清楚区分提取式和抽象式摘要,还能帮你发现幻觉问题,比ROUGE更深入。原文稍后读已读值得跟进有用关注 BART