11:42
官方账号arXiv cs.LG@Robin Linzmayer, Noémie Elhadad
73°
推荐理由：医疗AI研究团队发现模型对断言比对证据更易受影响，开放推理轨迹能更好检测错误决策。
误导上下文
共 1 条相关 AI 资讯
9月3日
11:42
研究分析了大型语言模型在医疗问答中如何受到误导上下文的影响。研究使用了包含8,627个问题的MedMisBench基准测试，评估了三种推理模型对两种误导线索的易感性。模型对断言的采纳率比伪造证据高10-27个百分点。81-98%的推理轨迹中包含了误导线索，但响应中仅披露7-90%。LLM监控器在开放推理轨迹上能以5%的误报率捕获78%的错误决策。