00:33官方账号Decoder@Matthias Bastian精选英国AI安全研究所(AISI)在涵盖7项基准测试的研究中发现,标准评估通过限制计算预算系统性地低估了AI智能体的实际能力。在软件工程任务中,当token预算增加10倍时,成功率提升约25%。新模型受益最大,实际进展比之前测量结果陡峭约60%。论文AISIAI智能体基准测试AI安全token预算1 个信源在谈推荐理由:别信那些基准排名——AISI发现给智能体多点token,表现就能飙升25%。新模型潜力更大。原文
18:04@koltregaskes@koltregaskes73°AISI在测试前沿模型时,将推理计算预算从250万token提高到5000万token,模型的时间跨度从40分钟跃升至4小时。在网络安全、软件工程和数学基准上,模型性能随token预算增加而持续提升,8%的任务仅在1000万token以上才被解决。新模型更能有效利用额外计算资源,前沿模型的加倍率在高预算下陡增60%。标准评估因在模型性能还未饱和前就限制计算量,系统性低估了模型能力,固定预算的得分会遗漏大量提升。AI模型AISI推理模型基准测试token预算评估方法1 个信源在谈推荐理由:AISI用更高的token预算测试模型,发现性能远超标准评测——8%的任务需要千万级token才能解决,前沿模型能力被低估了。原文