精选理由
想看你用的LLM在核工程上有多靠谱?NuclearQAv2用1240道硬核题测出模型的定量推理短板,比通用基准更实在。
NuclearQAv2是一个专为核工程领域设计的基准测试,包含约1240个问答对,涵盖布尔、数值和文字三类问题。该基准采用混合流程,结合专家编写、现有数据集和LLM辅助生成。评估多种LLM发现,模型在事实性问答上表现良好,但在定量推理和概念理解上存在明显短板。NuclearQAv2提供了一种可扩展的方案,用于系统衡量大语言模型在技术领域的实际能力。
AI 翻译 · 中文
NuclearQAv2是一个专为核工程领域设计的基准测试,包含约1240个问答对,涵盖布尔、数值和文字三类问题。该基准采用混合流程,结合专家编写、现有数据集和LLM辅助生成。评估多种LLM发现,模型在事实性问答上表现良好,但在定量推理和概念理解上存在明显短板。NuclearQAv2提供了一种可扩展的方案,用于系统衡量大语言模型在技术领域的实际能力。
Large language models (LLMs) have demonstrated strong performance across a wide range of tasks, but ensuring their reliability in highly technical domains remains a significant challenge. In nuclear engineering, problem …