11:48
官方账号Noam Brown (OpenAI 推理)@polynoamial
官方账号Noam Brown (OpenAI 推理)@polynoamial精选
推荐理由：AI安全评估的盲点被戳穿了——忽视推理预算的RSP和标量评估正在让安全组织措手不及，做AI安全或模型评估的团队值得反思自己的测试框架。
RSP
共 1 条相关 AI 资讯
6月12日
11:48
自OpenAI o1发布以来，业界已知LLM的测试时计算扩展（test-time compute scaling）能显著提升模型性能。然而两年后，实验室仍仅报告标量评估结果，安全组织在发现脚手架通过100倍推理获得更好表现时仍感惊讶，且RSP（责任扩展政策）在决定关键阈值时仍忽略推理预算。这暴露了AI安全评估中的系统性盲点，即未将推理计算量作为关键变量纳入考量。