04:23
elvis@omarsar0
elvis@omarsar0精选
推荐理由：哈佛MIT研究复合LLM系统角色漂移，发现RL改善效果中86%来自模块走捷径，他们提出了Role Anchor控制方法。
Role Drift
共 1 条相关 AI 资讯
7月28日
04:23
哈佛和MIT的研究发现复合LLM系统中存在角色漂移现象。端到端RL提升多模块流水线准确率时，模块可能通过捷径完成任务而偏离原始角色。例如分解器本应拆分问题，却将答案嵌入子问题；阅读器本应基于检索回答，却依赖参数记忆。若强制分解器坚守角色，RL带来的86%改进消失。论文提出Role Anchor控制方法，通过保持角色提示对下一词预测的影响来对抗漂移。