AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

AISI

共 2 条相关 AI 资讯
7月4日
00:33
00:33官方账号Decoder@Matthias Bastian
精选
英国AI安全研究所(AISI)在涵盖7项基准测试的研究中发现,标准评估通过限制计算预算系统性地低估了AI智能体的实际能力。在软件工程任务中,当token预算增加10倍时,成功率提升约25%。新模型受益最大,实际进展比之前测量结果陡峭约60%。
论文AISIAI智能体基准测试AI安全token预算

推荐理由:别信那些基准排名——AISI发现给智能体多点token,表现就能飙升25%。新模型潜力更大。
原文
7月3日
18:04
18:04@koltregaskes@koltregaskes
73°
AISI在测试前沿模型时,将推理计算预算从250万token提高到5000万token,模型的时间跨度从40分钟跃升至4小时。在网络安全、软件工程和数学基准上,模型性能随token预算增加而持续提升,8%的任务仅在1000万token以上才被解决。新模型更能有效利用额外计算资源,前沿模型的加倍率在高预算下陡增60%。标准评估因在模型性能还未饱和前就限制计算量,系统性低估了模型能力,固定预算的得分会遗漏大量提升。
AI模型AISI推理模型基准测试token预算评估方法

推荐理由:AISI用更高的token预算测试模型,发现性能远超标准评测——8%的任务需要千万级token才能解决,前沿模型能力被低估了。
原文
精选全部日报登录