15:24Stanford AI Lab@StanfordAILab精选斯坦福团队提出SPIRAL框架,通过强化学习让LLM在测试时自动协调顺序推理、并行采样和结果聚合。与传统只优化单链推理的训练方法不同,SPIRAL使用set RL训练模型生成对聚合器集体有用的多个候选答案,并用标准RL优化聚合器从这些候选合成改进答案。该方法使所有测试时计算维度(长链、并行样本、聚合)端到端可学习,缩小训练与部署的差距。AI模型SPIRALLLM强化学习推理模型测试时计算扩展推荐理由:斯坦福团队发了SPIRAL,让LLM训练时就学会并行采样和聚合答案,不是只会单链思考,更符合实际推理场景。原文
11:48Noam Brown (OpenAI 推理)@polynoamial精选自OpenAI o1发布以来,业界已知LLM的测试时计算扩展(test-time compute scaling)能显著提升模型性能。然而两年后,实验室仍仅报告标量评估结果,安全组织在发现脚手架通过100倍推理获得更好表现时仍感惊讶,且RSP(责任扩展政策)在决定关键阈值时仍忽略推理预算。这暴露了AI安全评估中的系统性盲点,即未将推理计算量作为关键变量纳入考量。行业测试时计算扩展AI安全推理预算RSPOpenAI o110 个信源在谈推荐理由:AI安全评估的盲点被戳穿了——忽视推理预算的RSP和标量评估正在让安全组织措手不及,做AI安全或模型评估的团队值得反思自己的测试框架。原文