Collapse(坍塌/崩塌)在 AI 领域特指模型在训练或推理过程中输出分布或内部机制失去多样性、收敛到少数模式的失效现象,是当前大模型研究中被高频讨论的一类问题。它并非单一技术名词,而是一组症状的统称:从早期的表示坍塌、模式坍塌,到近期围绕强化学习对齐出现的策略坍塌、思维坍塌等,都指向同一个核心矛盾——模型在优化压力下放弃了应有的多样性或既有能力。
近期研究中的 Collapse 类型与进展
围绕强化学习训练的坍塌问题是近期最活跃的方向。有研究指出,在无监督 RLVR 场景中,跨任务的相互耦合会驱动 Collective Dynamics of Self-Reinforcement: How Cross-Task Coupling Drives Policy Collapse in Unsupervised RLVR 所描述的策略坍塌,即自我强化在任务间传导后整体失效。针对 GRPO 算法,GRPO优势坍塌问题诊断与AVSPO缓解方案 系统分析了组内优势趋于零导致的训练失效,并提出 AVPO 作为缓解手段。
推理能力退化是另一条主线。诊断与缓解On-Policy Self-Distillation中的Thinking Collapse 关注在线自蒸馏过程中模型逐渐丧失长链思考能力的思维坍塌,而 One Symptom, Three Levers: A Critical Review of On-Policy Self-Distillation 进一步把这类症状归因并梳理出三个可调节的控制维度。
架构与工程层面也有对应观察。Softmax Routing Dynamics in Mixture-of-Experts Models: Collapse and Recovery 记录了 MoE 模型中路由坍塌的发生与恢复过程;G-Retriever 软提示的 token collapse 现象分析 则将坍塌分析延伸到图检索场景的软提示 token 上。此外,A Fix for Softmax and Cross-Entropy 尝试从 Softmax 与交叉熵的数学形式本身寻找修复路径。社区传闻方面,有消息称 DeepSeek Pro 训练因缺少多模态 token 出现模型坍塌(见 Teortaxes 的讨论),但该说法未经官方确认。
当前焦点与观察点
综合来看,Collapse 相关研究呈现三个趋势。其一,研究重心从传统的生成式模式坍塌转向对齐训练引发的能力退化,尤其是 RLVR 和自蒸馏流程中的思维坍塌,这直接关系到推理模型的可靠性。其二,诊断与缓解正在形成方法论共识——多篇工作采用“先定位症状、再给出可控干预手段”的框架,而非单纯堆砌正则化技巧。其三,坍塌分析开始下沉到更细粒度:token 级、路由级、信任校准级(如 对 LLM 谄媚性与信任校准坍塌的研究)。对从业者而言,值得持续观察的是:这些缓解方案能否在更大规模模型上复现、模型坍塌传闻是否会得到官方证实,以及坍塌诊断能否成为训练流程中的标准监控指标。