AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

推理计算

共 4 条相关 AI 资讯
7月3日
04:00
04:00Stanford AI Lab@StanfordAILab
精选
QuasiMoTTo是一种新的推理计算扩展方法,通过相关采样替代独立采样,避免重复发现相同解。该方法样本覆盖率更高,且保持边缘精确的LLM分布。实验显示,在测试时扩展中,仅需25-47%的样本即可达到相同性能;在强化学习训练中,减少50%的步骤。该研究由斯坦福大学团队完成,探索了相关采样器的设计空间。
AI模型QuasiMoTTo斯坦福推理计算相关采样采样效率

推荐理由:发新论文了,斯坦福团队搞的QuasiMoTTo,不用独立采样浪费算力,相关采样省25-47%样本,训练步骤也砍半。做推理扩展的可以看看。
原文
6月17日
09:39
09:39官方账号arXiv cs.AI@Jessica McFadyen, Ole Jorgensen, Harry Coppock, Kevin Wei, Cozmin Ududec
一项研究评估了12个前沿语言模型在7个基准上的表现,包括FrontierMath、TerminalBench和网络安全任务。研究发现,增加推理计算(如更大token预算和重复提交)能显著提升得分,例如在FrontierMath上提升达20%以上。固定预算的评估会低估新一代模型能力,因为它们在更大预算下能解锁并更可靠地解决难题。不同基准对推理缩放方法的依赖各异:重复提交对多数基准有效,但外部反馈仅在特定任务中有帮助。
论文推理计算FrontierMathTerminalBenchLLM评估

推荐理由:别被固定预算的基准分数骗了,这篇论文揭示了很多模型实际能力需要更多推理计算才能看出来。
原文
6月12日
13:02
13:02官方账号ARC Prize@arcprize
精选
Arc Prize联合创始人Francois Chollet与Polynoamial讨论AI领域对推理计算(inference compute)的普遍低估。他们认为,推理计算(模型在推理时消耗的计算资源)可能比训练计算更关键,是通往AGI的隐藏力量。同时,他们探讨了是否存在新的AGI测试方法,以及缺乏计算资源的学术界如何在AI竞争中保持竞争力。这场对话挑战了当前以训练规模为中心的AI发展范式。
行业推理计算AGI学术界AI竞争Francois Chollet

推荐理由:Chollet的洞见挑战了AI界对训练算力的迷信,做AI研究或关注AGI进展的开发者值得一看,可能会重新思考你的算力分配策略。
原文
5月16日
23:25
23:25Gary Marcus@GaryMarcus
Gary Marcus 引用 Noam Brown 的观点,认为当前 AI 模型的智能是推理计算的函数,但指出人类大脑仅用 20 瓦就能实现高度智能。他提醒,长期来看,新架构创新可能与原始算力同等甚至更重要。Noam Brown 则强调,自 2024 年起,比较模型不应只看单一指标,而应关注每 token 或每美元的智能产出,尤其在 Codex 等产品中。
行业推理计算架构创新智能效率Noam BrownGary Marcus

推荐理由:AI 从业者常陷入算力竞赛的思维定式,Marcus 的提醒点出了架构创新的长期价值,做模型选型和研发的团队值得一读。
原文
精选全部日报登录