#训练动力学
共 3 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「训练动力学」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月9日
6月12日
Llama小模型训练动力学研究:固定Token预算下性能先升后降
这篇论文戳破了「更多Token=更好模型」的直觉,做小模型训练或资源受限场景的开发者会看到训练轨迹比终点指标更关键,建议点开看看如何用间隔遥测避免白费算力。
6月1日
论文10:28
Assign and Add:Transformer 组合算术的机制研究这篇论文用简洁的实验揭示了 Transformer 组合泛化的内部机制,对理解大模型如何组合技能有启发意义,做可解释性或模型架构研究的读者值得一看。