AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

DialLM

共 1 条相关 AI 资讯
7月9日
10:23
10:23官方账号arXiv cs.AI@Jordan Painter, Dipankar Srirag, Adarsh Kappiyath, Diptesh Kanojia, Aditya Joshi, Lu Yin
DiaLLM 在 International Corpus of English 上持续预训练三种开源模型家族(LLaMA、Mistral、Gemma),并应用隐式和显式后训练范式各搭配三种对齐策略,首次在澳大利亚、印度和北英格兰方言上对比这些组件。结果显示鲁棒性和生成能力分离:基准测试由持续预训练和 SFT 主导,而对齐显著重塑生成但基准测试无法捕捉。显式方言适配生成被人类评估者可靠识别为方言,但最激进优化方言奖励的方法反而得不到人类偏好。独立语言学分析在两个模型家族上验证了该奖励-质量差距,且没有单一对齐方法占优。
论文DialLM方言适应鲁棒性生成质量英语方言

推荐理由:这篇论文挖出了LLM理解方言但生成不了方言的深层矛盾,还对比了多种对齐方法,结果很反直觉。
原文
精选全部日报登录