并行推理相关 AI 资讯 · AI 热点

7月2日

11:15

11:15

官方账号arXiv cs.LG@Xuecheng Liu, Daman Arora, Gokul Swamy, Andrea Zanette

论文提出Message Passing Language Models（MPLMs）框架，通过轻量级send/receive原语让多个LLM线程直接通信。在Sudoku任务中，MPLM所需的上下文比串行CoT和并行FJ方法渐近更小，并成功微调出能解25x25数独的单一模型。在3-SAT任务中，抢占机制可提前终止无效分支提升效率。在长上下文问答上，适当提示的大型预训练模型能遵循MPLM协议，性能与流行fork-join方法相当。

论文 MPLM 推理模型消息传递并行推理 LLM

推荐理由：这篇论文解决了LLM推理的计算瓶颈，用消息传递代替长链条，在数独和SAT上效果显著，对关注推理效率的人值得一读。

5月21日

15:49

15:49

rohanpaul_ai@rohanpaul_ai

精选72°

一种名为GRAM（生成式递归推理）的新模型，仅用1000万参数，通过同时探索多条推理路径，在硬数独谜题上达到97%准确率，超越此前最佳递归模型（87.4%）。传统递归模型是确定性的，容易陷入错误轨迹，而GRAM在每个推理步骤注入随机性，生成多样化的推理路径，并在测试时并行运行并选择最佳结果。在N皇后等多解任务中，GRAM保持近乎完美的准确率，而确定性模型随解数量增加而崩溃。此外，GRAM还能作为生成器，用16步生成有效数独谜题，成功率99%，远超扩散模型。

论文推理模型并行推理随机性数独 GRAM

推荐理由：GRAM用随机性打破了递归模型的确定性瓶颈，做推理模型或搜索算法的研究者可以直接复现，做数独或组合优化应用的团队值得关注。

5月15日

10:56

10:56

官方账号arXiv cs.AI@Shang Zhou, Wenhao Chai, Kaiyuan Liu, Huanzhi Mao, Qiuyang Mang, Jingbo Shang

精选

OpenDeepThink 是一种基于种群的测试时计算扩展框架，通过成对 Bradley-Terry 比较选择最佳推理候选，解决了并行采样中的选择瓶颈。每次迭代中，LLM 对随机候选对进行评判并聚合为全局排名，保留顶部候选并变异前四分之三，丢弃底部四分之一。在 Codeforces 上，Gemini 3.1 Pro 的 Elo 评分在 8 轮 LLM 调用（约 27 分钟）内提升 405 分。该方法跨弱强模型无需重新调参，在 HLE 基准上，增益集中在客观可验证领域，主观领域则出现逆转。同时发布了 CF-73 数据集，包含 73 道专家评级的 Codeforces 问题。

论文推理模型测试时计算扩展 Bradley-Terry 并行推理 Codeforces

推荐理由：OpenDeepThink 用 Bradley-Terry 聚合解决了并行推理的候选选择难题，做推理扩展的开发者可以直接复现，效果显著且无需调参。