11:21官方账号arXiv cs.AI@Ananya Sahu, Mohit Bansal, Elias Stengel-EskinCreativeInstruct是一种可扩展的指令微调方法,通过让模型学习注入[StartCreativity]标记来平衡创造性与后训练质量。该方法引入基于图编辑距离的结构多样性指标,捕捉叙事层面的变化。在叙事生成任务中,CreativeInstruct匹配或超过了多模型基线及蒸馏变体的多样性,且无需牺牲质量。人工评估中,70.3%的评分者认为CreativeInstruct的生成比后训练模型更有创造力。将GRPO应用于CreativeInstruct检查点,在AMC上提升约4%,在MATH上提升约5个百分点。论文CreativeInstructGRPO指令微调推荐理由:CreativeInstruct用特殊标记让模型在保持质量的同时更会编故事,人类测评七成认为更有创造力,还能给强化学习带来几个点的提升。原文稍后读已读值得跟进有用关注 CreativeInstruct