09:39arXiv cs.AI@Jessica McFadyen, Ole Jorgensen, Harry Coppock, Kevin Wei, Cozmin Ududec一项研究评估了12个前沿语言模型在7个基准上的表现,包括FrontierMath、TerminalBench和网络安全任务。研究发现,增加推理计算(如更大token预算和重复提交)能显著提升得分,例如在FrontierMath上提升达20%以上。固定预算的评估会低估新一代模型能力,因为它们在更大预算下能解锁并更可靠地解决难题。不同基准对推理缩放方法的依赖各异:重复提交对多数基准有效,但外部反馈仅在特定任务中有帮助。论文推理计算FrontierMathTerminalBenchLLM评估推荐理由:别被固定预算的基准分数骗了,这篇论文揭示了很多模型实际能力需要更多推理计算才能看出来。原文
13:02ARC Prize@arcprize精选Arc Prize联合创始人Francois Chollet与Polynoamial讨论AI领域对推理计算(inference compute)的普遍低估。他们认为,推理计算(模型在推理时消耗的计算资源)可能比训练计算更关键,是通往AGI的隐藏力量。同时,他们探讨了是否存在新的AGI测试方法,以及缺乏计算资源的学术界如何在AI竞争中保持竞争力。这场对话挑战了当前以训练规模为中心的AI发展范式。行业推理计算AGI学术界AI竞争Francois Chollet推荐理由:Chollet的洞见挑战了AI界对训练算力的迷信,做AI研究或关注AGI进展的开发者值得一看,可能会重新思考你的算力分配策略。原文
23:25Gary Marcus@GaryMarcusGary Marcus 引用 Noam Brown 的观点,认为当前 AI 模型的智能是推理计算的函数,但指出人类大脑仅用 20 瓦就能实现高度智能。他提醒,长期来看,新架构创新可能与原始算力同等甚至更重要。Noam Brown 则强调,自 2024 年起,比较模型不应只看单一指标,而应关注每 token 或每美元的智能产出,尤其在 Codex 等产品中。行业推理计算架构创新智能效率Noam BrownGary Marcus推荐理由:AI 从业者常陷入算力竞赛的思维定式,Marcus 的提醒点出了架构创新的长期价值,做模型选型和研发的团队值得一读。原文