患者安全相关 AI 资讯 · AI 热点

8月5日

10:58

10:58

官方账号arXiv cs.AI@Yining Hua, Hongbin Na, Cyrus Ayubcha

CARE-Bench是一个源引用的基准，用于评估医疗大模型在患者面对面的分诊任务中，每轮应给出的当前行动建议。基准包含500个病例和1,059个患者披露前缀，覆盖医疗对话、咨询和随访问题来源。在269个保留轮次上评估了11个模型，无提示时宏F1分数在31.2到50.4之间。加入最小提示后，10/11的模型表现提升，宏F1达到46.9到63.4，但仍有大量阈值错误。当正确行为是索取更多信息时，仅有33.5%的模型输出保留了该步骤。

AI模型 CARE-Bench 医疗分诊评测基准

推荐理由：这个基准测的是医疗分诊模型会不会乱建议，结果发现简单加提示词远远不够，做医疗AI的人都该看看。

6月12日

12:13

12:13

官方账号MIT CSAIL@MIT_CSAIL

MIT 研究人员指出，许多影响患者护理的 AI 工具可能未受美国 FDA 监管，存在安全隐患。他们建议增加公开披露、加强行业与监管机构的结构化对话，并更新 FDA 指南。这一发现对医疗 AI 领域有重要影响，因为当前监管空白可能导致患者风险。研究呼吁更严格的监管框架以确保 AI 工具的安全性和有效性。

行业医疗 AI FDA 监管患者安全

推荐理由：医疗 AI 开发者和管理者需要关注监管合规风险——MIT 的发现揭示了当前监管空白，建议及时调整策略以避免法律和伦理问题。