11:23官方账号arXiv cs.LG@Maximilian Dillitzer, Tin Stribor Sohn, Jason J. Corso, Michael Auerbach该研究在13个模型(9个LLM和4个VLM)中系统评测了字母大小写对注意力分配的影响。实验发现,将目标信息改为交替大小写或大写,能显著集中文本注意力。但这种注意力集中并不提升下游准确率,在交替大小写的高熵场景下甚至会造成下降。推理模型的思考阶段会缓冲这类排版敏感性,而视觉语言模型则表现出部分迁移效应。研究将大小写视为无需模型访问或微调的零样本注意力引导机制。论文大小写注意力机制LLM推荐理由:这篇arXiv研究测了13个模型:把关键词大写能集中LLM注意力,但准确率不一定提高,交替大小写还会拖累成绩。原文稍后读已读值得跟进有用关注 大小写