微软研究：不改训练，靠 harness 让 Llama3-8B 长上下文平均提升 64.18 分

微软团队发布一项研究，不使用合成数据、不做后训练，仅通过构建自定义 harness 来提升小模型的长上下文推理能力。Llama3-8B 在多个长上下文基准上平均提升 64.18 分，全程零训练。 技术路径是把长上下文任务拆解为若干能力原语（capability primitives），再由一个强 agent 在开发集上多轮自我改进，重写这些原语、它们追踪的状态以及控制逻辑。这套 harness 本身由 GPT-5.6-Sol 编写，实验显示如果让小模型自己生成 harness，成绩会明显下降。 这套为 Llama3-8B 构建的 harness 可以直接迁移到 Qwen2.5-3B。在 HELMET 和 RULER 两个基准上，它的表现超过依赖数据合成与训练的 NExtLong 和 PolicyLong，估算成本不到后者的一半。论文作者给出的建议是：给小模型做长上下文后训练之前，先尝试改进模型外围的 harness。