精选理由
这项研究解决了临床AI评估中数据格式不匹配的痛点,做医疗AI或临床决策支持的团队可以直接用这个数据集和流水线来测试模型在真实EHR环境下的表现。
研究人员开发了一个流水线,将非结构化临床文本转换为符合HL7 FHIR R4标准的结构化数据,用于评估大语言模型在真实电子健康记录环境中的诊断推理能力。该流水线结合了分阶段LLM生成与术语验证修复,减少了幻觉代码,保证了结构一致性。基于此构建的MedCase-Structured数据集在82.5%的病例中成功生成有效FHIR数据。测试发现,LLM在结构化FHIR输入上的诊断准确率普遍低于纯文本输入,凸显了部署对齐基准测试的重要性。
AI 翻译 · 中文
研究人员开发了一个流水线,将非结构化临床文本转换为符合HL7 FHIR R4标准的结构化数据,用于评估大语言模型在真实电子健康记录环境中的诊断推理能力。该流水线结合了分阶段LLM生成与术语验证修复,减少了幻觉代码,保证了结构一致性。基于此构建的MedCase-Structured数据集在82.5%的病例中成功生成有效FHIR数据。测试发现,LLM在结构化FHIR输入上的诊断准确率普遍低于纯文本输入,凸显了部署对齐基准测试的重要性。
Large language models (LLMs) show promise for clinical reasoning and decision support, but evaluation in realistic, electronic health record-congruent settings remains limited. Existing benchmarks often rely on static da…