#并行推理

共 3 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「并行推理」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月2日

MPLM：消息传递机制实现高效LLM推理

这篇论文解决了LLM推理的计算瓶颈，用消息传递代替长链条，在数独和SAT上效果显著，对关注推理效率的人值得一读。

#MPLM #推理模型 #消息传递 #并行推理

arXiv cs.LG@Xuecheng Liu 等 4 人原文

5月21日

论文精选72°15:49

10M参数模型GRAM通过并行推理路径超越3倍大小对手

GRAM用随机性打破了递归模型的确定性瓶颈，做推理模型或搜索算法的研究者可以直接复现，做数独或组合优化应用的团队值得关注。

#推理模型 #并行推理 #随机性 #数独

rohanpaul_ai@rohanpaul_ai原文

5月15日

论文精选10:56

OpenDeepThink：通过Bradley-Terry聚合实现并行推理扩展

OpenDeepThink 用 Bradley-Terry 聚合解决了并行推理的候选选择难题，做推理扩展的开发者可以直接复现，效果显著且无需调参。

#推理模型 #测试时计算扩展 #Bradley-Terry #并行推理

arXiv cs.AI@Shang Zhou 等 6 人原文