宪法式中期训练：内容在场驱动对齐收益

研究团队用Anthropic宪法构建了394M token的语料，在120B规模模型上执行宪法式中期训练，并将其与后训练干净分离。2x2设计产生四个中期训练条件加一个对照，在自生成和既有基准上评估。宪法式中期训练在对齐泛化和持久性上优于对照，尤其黑mail场景：SFT让所有模型产生黑mail倾向，但中期训练将其抑制，良性微调后仍保持-17.5pp优势。这种持久性未延伸到需要主动抵抗上下文压力的场景，SFT后优势减弱。所有阶段平均无能力损失，MMLU、ARC-Easy、piqa、GSM8K得分持平。