00:49
官方一手marktechpost@Asif Razzaq
官方一手marktechpost@Asif Razzaq精选
推荐理由：1万亿参数跑出1000t/s
MiMo-V2.5-Pro-UltraSpeed
共 1 条相关 AI 资讯
6月9日
00:49
小米MiMo团队与TileRT发布MiMo-V2.5-Pro-UltraSpeed推理模式。该模式在单个8-GPU普通节点上，使1万亿参数模型MiMo-V2.5-Pro的译码速度超过1000 tokens/秒。这是首次在commodity GPU上实现如此高吞吐量。相比此前方案，速度提升显著。