AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

训推一致

共 1 条相关 AI 资讯
8月6日
17:28
17:28IT之家(博客/媒体)
72°
华为计算8月5日宣布,昇腾基于Ascend C编程语言提供完整训推一致算子集。在Qwen3-30B MoE模型上测试实现Logdiff为0,并通过FA算子优化在Eager模式下获得20%-60%性能收益。该方案通过统一注意力语义、锁定reduce累加序等4项修改,解决训练与推理累加不保序问题。相关基础设施已开源至GitHub,并将上线训推一致问题识别Skill。
AI模型昇腾Ascend CQwen3-30B

推荐理由:华为昇腾把RL训推一致做出来了,Qwen3-30B上Logdiff归零,还能提速20%-60%,搞强化学习训练可以看看。
原文
精选全部日报登录