论文10:26在线策略蒸馏中结果混淆的局部监督论文用实验数据揭示了一个反直觉现象:学生在模仿老师时,67%的token在“同意但失败”,说明局部蒸馏有盲区。做模型蒸馏的朋友可以看看这个诊断方法。#Qwen3#Qwen2.5#知识蒸馏#推理模型aarXiv cs.LG@Guoqing Ma原文稍后读已读值得跟进有用关注 Qwen3
论文精选80°11:42Flow-OPD:面向Flow Matching模型的在线策略蒸馏后训练框架该工作针对现有多任务对齐中指标相互制约和奖励欺骗的痛点,将LLM领域成熟的OPD方法成功迁移至图像生成领域,并通过冷启动、任务路由和正则化创新提升了效果。实验在关键指标上大幅领先现有方法,对业界构建高性能通用文生图模型具有直接参考价值。#图像生成#Flow Matching#在线策略蒸馏#多任务对齐aarXiv cs.AI原文稍后读已读值得跟进有用关注 图像生成