arXiv 论文解析 Direct Feedback Alignment 训练停滞的共模崩塌机制
用 DFA 训网络总卡在常量预测器？这篇论文把根因拆到共模误差和 tanh 饱和，还给了减批量均值这种直接可用的修复办法。
#训练优化
共 10 条 · 7 天 0 条 · 30 天 2 条
信息流里打上「训练优化」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月28日
9月15日
一种新方法让大语言模型训练提速 37%，减少 34% 训练时间
朋友A对朋友B说：刚看到个挺有意思的论文，叫MoARa，是DeepSeek团队搞的，专门针对大语言模型训练优化，能让训练速度提升37%，时间缩短34%，挺实用的。
8月5日
行业10:51
AI Engineer World's Fair 2026后训练与中期训练专场开播AI Engineer 大会的后训练专场正在直播，讲训练怎么决定模型行为，TypeSafe、Hugging Face、MiniMax 都有人讲。
8月4日
论文11:32
CMuon：基于分块动量正交化加速并稳定Diffusion Transformer训练写了个新优化器CMuon，训练扩散Transformer比AdamW快两倍多，675M模型200轮就跑到FID 1.18，厉害得很。
7月22日
7月11日
DeepSeek-V4 Flash RL 在 AMD MI355X 上完成端到端训练
DeepSeek-V4 Flash RL 在 AMD 显卡上跑通了，训练结果还不错，AIME 分数涨了一截。想试试 AMD 平台搞 RL 训练可以看看这篇。
6月29日
6月26日
使用NVIDIA Blackwell优化Amazon SageMaker AI模型训练
AWS发了篇实战教程，教你用NVIDIA Blackwell在SageMaker上调优训练，从选精度到调batch size都讲清了，搞大模型训练的人别错过。
5月14日
杨植麟40分钟视频拆解Kimi K2训练：460万美元颠覆大厂烧钱逻辑
杨植麟用460万美元和极致架构打脸烧钱竞赛，做AI代理或准备2026年入场的团队，看完会重新思考资源分配策略——建议存下来周末细看。
