#长序列推理

共 2 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「长序列推理」标签的资讯、产品与论文，按刊登时间排，新的在上。

6月26日

模型中美对照73°07:03

华为与湖北移动完成AI推理加速方案现网测试，长序列吞吐率提升372%

华为和湖北移动搞了个AI推理加速实测，长序列场景下吞吐率最高翻了近4倍，GLM-5.1模型128K序列表现尤其猛。

#华为 #UCM #昇腾A3 #长序列推理

IT之家原文

6月2日

模型中美对照多源确认精选76°00:27

Nvidia 即将发布 Nemotron 3 Ultra，混合 SSM+MoE 架构

Nemotron 3 Ultra 的混合 SSM+MoE 架构解决了长序列推理的高成本痛点，做长上下文应用或工具调用的开发者值得关注，可以直接期待其发布。

#Nemotron 3 Ultra #Nvidia #SSM #MoE

rohanpaul_ai@rohanpaul_ai9 个信源在谈原文