#反向传播

共 4 条 · 7 天 1 条 · 30 天 2 条

信息流里打上「反向传播」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月7日

AI训练中的基础问题研究，提出解决超大规模异步训练信用分配的新思路

Teortaxes@teortaxesTex原文

9月15日

Yann LeCun 团队提出的这个算法，能优化反向传播的效率，在稀疏自编码器场景下表现更好。

官方账号Yann LeCun@ylecun原文

6月12日

模型多源确认精选12:20

做MoE模型训练和推理的开发者，这个数学重写能直接降低你的显存压力并加速训练，尤其适合细粒度MoE场景，建议试试Blackwell新特性带来的性能提升。

官方账号Tri Dao (FlashAttention)@tri_dao11 个信源在谈原文

5月19日

这项研究打破了深度学习十年来的反向传播依赖，做大规模模型训练或非可微分任务（如强化学习、神经架构搜索）的团队可以直接关注 EGGROLL，它可能改变你构建模型的方式。

官方账号AlphaSignal@AlphaSignalAI原文