精选理由
论文用实际数据告诉你，数据库出错时LLM会瞎编内容，但加个简单提示就能把幻觉砍掉一半。不用重训模型，看各家的差距有多大。
一项研究分析了六种开源模型家族（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5）在任务导向对话中面对数据库调用失败时的表现。基于MultiWOZ 2.2（5领域）和SGD（20领域）构建的故障注入基准显示，朴素智能体在30.5%（MultiWOZ）和20.9%（SGD）的失败轮次中产生幻觉。提出的Guided-Retry策略无需重新训练即可将MultiWOZ上的幻觉率从30.5%降至15.3%（降低50%），SGD上从20.9%降至12.2%（降低42%）。但各模型残差幻觉仍达6-37%，跨域失败最难处理。
AI 翻译 · 中文
一项研究分析了六种开源模型家族（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5）在任务导向对话中面对数据库调用失败时的表现。基于MultiWOZ 2.2（5领域）和SGD（20领域）构建的故障注入基准显示，朴素智能体在30.5%（MultiWOZ）和20.9%（SGD）的失败轮次中产生幻觉。提出的Guided-Retry策略无需重新训练即可将MultiWOZ上的幻觉率从30.5%降至15.3%（降低50%），SGD上从20.9%降至12.2%（降低42%）。但各模型残差幻觉仍达6-37%，跨域失败最难处理。
Large language models used in task-oriented dialogue often produce fluent but unsafe responses when backend database calls fail, return empty results, or surface mismatched information, inventing venues, confirmations, o…