Papers09:57
Chinese content研究：Transformer 的 CoT 训练中自发涌现 Heavy-Ball 加速算法这篇理论论文挺有意思：CoT 推理不只是抄老师算法，训练后自己悟出了比梯度下降更快的 Heavy-Ball 方法，说明推理过程真能发现新算法。
#Heavy-Ball
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "Heavy-Ball", newest first.
Oct 23