LLM作为数据标注者的有效性:AMALIA权威性研究

Validity of LLMs as data annotators: AMALIA on authority

精选理由

这篇论文用一个具体案例(葡萄牙语AMALIA)揭露了LLM做数据标注的隐患:表面一致但内在无效,对做标注或评测的人很有启发。

AI 摘要

葡萄牙国家语言模型AMALIA(9B参数)在标注道德基础“权威”时,与人类编码者一致性达与8-13倍大小模型相差6个F1点。但通过“恢复间隙”方法发现,分解提示后AMALIA仅恢复约一半性能,错误分析显示它依赖表面相关捷径(如对权威人物的道德愤怒)。多语言开源模型在相同葡萄牙语语料库上能缩小此差距,表明问题不在语料库本身。研究认为主权LLM基准应测试证据路线而非仅一致性。

AI 翻译 · 中文

葡萄牙国家语言模型AMALIA(9B参数)在标注道德基础“权威”时,与人类编码者一致性达与8-13倍大小模型相差6个F1点。但通过“恢复间隙”方法发现,分解提示后AMALIA仅恢复约一半性能,错误分析显示它依赖表面相关捷径(如对权威人物的道德愤怒)。多语言开源模型在相同葡萄牙语语料库上能缩小此差距,表明问题不在语料库本身。研究认为主权LLM基准应测试证据路线而非仅一致性。

arXiv cs.AIA national language model offers a linguistic community its own instrument for measuring what its citizens say and value. Portugal's AMALIA, a publicly funded 9B-parameter model for European Portuguese, appears competiti