精选理由
这篇论文挖出了LLM理解方言但生成不了方言的深层矛盾，还对比了多种对齐方法，结果很反直觉。
DiaLLM 在 International Corpus of English 上持续预训练三种开源模型家族（LLaMA、Mistral、Gemma），并应用隐式和显式后训练范式各搭配三种对齐策略，首次在澳大利亚、印度和北英格兰方言上对比这些组件。结果显示鲁棒性和生成能力分离：基准测试由持续预训练和 SFT 主导，而对齐显著重塑生成但基准测试无法捕捉。显式方言适配生成被人类评估者可靠识别为方言，但最激进优化方言奖励的方法反而得不到人类偏好。独立语言学分析在两个模型家族上验证了该奖励-质量差距，且没有单一对齐方法占优。
AI 翻译 · 中文
DiaLLM 在 International Corpus of English 上持续预训练三种开源模型家族（LLaMA、Mistral、Gemma），并应用隐式和显式后训练范式各搭配三种对齐策略，首次在澳大利亚、印度和北英格兰方言上对比这些组件。结果显示鲁棒性和生成能力分离：基准测试由持续预训练和 SFT 主导，而对齐显著重塑生成但基准测试无法捕捉。显式方言适配生成被人类评估者可靠识别为方言，但最激进优化方言奖励的方法反而得不到人类偏好。独立语言学分析在两个模型家族上验证了该奖励-质量差距，且没有单一对齐方法占优。
Large language models increasingly \emph{understand} dialectal English, yet still \emph{produce} only standard, US-leaning English, leaving dialectal generation, the harder half of the problem, largely unaddressed. We in…