ClinicalMC:评估大模型在多疗程临床决策中的表现

ClinicalMC: A Benchmark for Multi-Course Clinical Decision-Making with Large Language Models

精选理由

医疗AI开发者终于有了评估模型在多疗程动态决策中的基准——ClinicalMC覆盖从分诊到出院的完整流程,做临床决策系统的团队可以直接拿来测模型。

AI 摘要

现有基准主要评估大模型在单疗程场景中的表现,缺乏对多疗程(患者病情随时间演变)的系统评估。为此,研究者提出了ClinicalMC基准,包含1275个中文和5804个英文样本,覆盖从入院到出院的四个阶段(分诊、首诊检查/诊断/治疗、后续多疗程检查/评估/治疗、最终诊断)。英文数据集患者平均经历5.11个疗程,中文数据集为3.42个。他们构建了包含患者、考官和医生智能体的多智能体评估框架,并设计了单轮静态和多轮动态两种实验设置,评估了闭源模型(如GPT5-mini)、开源模型(如DeepSeek-V3.2)和医疗模型(如HuatuoGPT-o1)。该工作旨在更好地理解大模型在医疗领域的表现,支持其有效部署。

AI 翻译 · 中文

现有基准主要评估大模型在单疗程场景中的表现,缺乏对多疗程(患者病情随时间演变)的系统评估。为此,研究者提出了ClinicalMC基准,包含1275个中文和5804个英文样本,覆盖从入院到出院的四个阶段(分诊、首诊检查/诊断/治疗、后续多疗程检查/评估/治疗、最终诊断)。英文数据集患者平均经历5.11个疗程,中文数据集为3.42个。他们构建了包含患者、考官和医生智能体的多智能体评估框架,并设计了单轮静态和多轮动态两种实验设置,评估了闭源模型(如GPT5-mini)、开源模型(如DeepSeek-V3.2)和医疗模型(如HuatuoGPT-o1)。该工作旨在更好地理解大模型在医疗领域的表现,支持其有效部署。

arXiv: DeepSeekLarge language models (LLMs) have been widely adopted in healthcare, yet they still encounter significant challenges in complex clinical decision-making scenarios. Existing benchmarks primarily assess LLM performance in