AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Neuron-OPSD

共 1 条相关 AI 资讯
7月3日
11:30
11:30官方账号arXiv cs.AI@Zhuowei Chen, Xiang Lorraine Li
论文提出Neuron-OPSD框架,解决无标注自蒸馏中SFT/GRPO变体导致域外性能下降、奖励型on-policy RL校准误差扩张的问题。该框架利用模型内部神经元激活值指导训练数据选择和教师上下文构建,通过on-policy蒸馏训练。在多个专业领域基准上,Neuron-OPSD提升域内任务性能,同时保持跨域泛化并减轻校准崩溃。该方法不依赖任何真实标签或外部反馈。
论文Neuron-OPSD自蒸馏无标注学习数据选择LLM

推荐理由:Neuron-OPSD用神经元信号挑训练数据,让大模型自己教自己,不用人工标注,效果还更稳。
原文
精选全部日报登录