NuclearQAv2:评估大语言模型核工程能力的结构化基准

NuclearQAv2: A Structured Benchmark for Evaluating Domain-Science Competence in Large Language Models

精选理由

想看你用的LLM在核工程上有多靠谱?NuclearQAv2用1240道硬核题测出模型的定量推理短板,比通用基准更实在。

AI 摘要

NuclearQAv2是一个专为核工程领域设计的基准测试,包含约1240个问答对,涵盖布尔、数值和文字三类问题。该基准采用混合流程,结合专家编写、现有数据集和LLM辅助生成。评估多种LLM发现,模型在事实性问答上表现良好,但在定量推理和概念理解上存在明显短板。NuclearQAv2提供了一种可扩展的方案,用于系统衡量大语言模型在技术领域的实际能力。

AI 翻译 · 中文

NuclearQAv2是一个专为核工程领域设计的基准测试,包含约1240个问答对,涵盖布尔、数值和文字三类问题。该基准采用混合流程,结合专家编写、现有数据集和LLM辅助生成。评估多种LLM发现,模型在事实性问答上表现良好,但在定量推理和概念理解上存在明显短板。NuclearQAv2提供了一种可扩展的方案,用于系统衡量大语言模型在技术领域的实际能力。

arXiv cs.AILarge language models (LLMs) have demonstrated strong performance across a wide range of tasks, but ensuring their reliability in highly technical domains remains a significant challenge. In nuclear engineering, problem