观点：推理能力提升更靠内部 RL，蒸馏作用被高估
精选理由
一个关于蒸馏和 RL 谁才是推理能力来源的争论，作者拿 ChatGPT 和 Claude 的思维链形态举了例子，可以看看你站哪边。
一位评论者认为蒸馏角度被高估，理由是现代 ChatGPT 或 Claude 的思维链并不呈现蒸馏数据常见的形态。这些模型在思维链上已做到相当简洁，推理能力收益主要来自内部强化学习。该观点还指出前沿模型本身可以替代定制蒸馏数据。
原文 · Teortaxes
One reason I think the distillation angle is a bit overrated is that in no world does modern ChatGPT or Claude's CoT look like this. And they've even achieved pretty concise operation. So reasoning gains are mostly due to internal RL. Frontier models substitute for custom data. https://t.co/gADw32cvBB
