Chinese content研究者用新模型复测旧结论：幻觉与偏见下降，谄媚问题仍在
你印象里 LLM 爱瞎编引用、偏见严重的结论可能过时了，这项复现研究用新模型重测了幻觉、偏见和谄媚，结果挺出乎意料。
#hallucinations
28 stories · 0 in 7 days · 8 in 30 days
Stories, products and papers tagged "hallucinations", newest first.
Nov 4
Nov 3
Chinese content斯坦福用 20 个新模型复测 50 项 LLM 结论：44% 已失效
斯坦福拿 20 个新模型复测 50 条 LLM 常识，近一半已失效。做模型选型或写论文前翻翻这篇，能少踩不少过时结论。
Oct 28
Oct 27
Chinese contentChatGPT 频频引导用户去找 404 Media 解决客服问题
Simon Willison 引用了 404 Media 记者Jason Koebler 的观察：ChatGPT 会把普通客服问题说成新闻线索，让人去找 404 Media 求助，挺离谱的。
Oct 23
ClaimWriter cuts deep research hallucination up to 4.5×
Faithfulness can be fixed at the drafting stage rather than by better retrieval — the writer, not the search, is where most hallucinations enter. Teams building deep research pipelines can plug ClaimWriter into existing frameworks and audit outputs with ClaimProbe using the released code. The benchmark offers a reproducible baseline for measuring claim-level grounding across competing agent stacks.
Oct 20
Chinese contentsurgical AI 可能在看医生口罩颜色而非手术本身
Sonia Joseph 用手术机器人这个例子讲透了为什么幻觉难以发现：输出看着合理，依据的线索却是错的，得看模型内部表征才知道。
Oct 19
Chinese contentGergely Orosz：3 个 AI 模型在法律咨询上同时答错
Gergely Orosz 的亲身经历：3 个模型给法律意见全答错，律师才是对的，在自己不懂的领域真别全信 AI。
Oct 9
Harvey LAB-AA v1.1 Adds Hallucination Gate to Legal Benchmark
The hallucination gate reshuffles the leaderboard: Muse Spark 1.3 would lead at 26.7% all-pass without it, but two thirds of its passes contain material hallucinations, while GPT-6 Astra keeps nearly all its passes and jumps from joint 10th to 3rd. Legal tech teams benchmarking models for drafting work should weight groundedness over raw pass rates, and cost data matters too — Grok 4.7 tops the table at roughly US$9.50 per task, under half the ~US$21.70 of Claude Fable 5.1.
Oct 8
Chinese contentPHRBench：评估大模型推理中纠正幻觉前提的行为基准
arXiv 上新出的 PHRBench，测 18 个模型怎么在推理途中纠正幻觉前提，还发现提示特征能预测能否翻盘，做评测的可以看看。
Models03:50
Chinese content评论：半年内模型幻觉问题已明显缓解，不宜再视为无解一条关于幻觉问题正在被缓解的观点帖，作者认为半年来的模型进步改变了局面，可以点链接看看他给的论据。
Oct 7
Oct 6
Chinese content微软 Word Copilot 新增引用功能，回复附带来源链接可溯源查证
Word 里的 Copilot 现在会给出处链接了，点一下就能跳回原文核对，编造来源这事儿总算有办法查了。
IT之家Source
Sep 23
Chinese contentREVE：复用编码器状态为大音频语言模型修正幻觉
给模型生成的声音事件描述做事实核查，不用再跑一遍音频编码，延迟只有 CED-Base 的十八分之一，音频方向的研究者可以看看。
Aug 18
Industry03:43
Chinese contentGary Marcus：AI不遵循指令被忽视，LLM架构威胁安全Gary Marcus直接点出AI不听指令比幻觉更危险，还引用了越具体越不听话的现象。想了解AI安全风险，看这条。
Aug 11
Chinese contentClaude Haiku 幻觉问题遭吐槽，性能被 GPT-5.6-Luna 超越
Simon Willison 说 Claude Haiku 幻觉多，不如 GPT-5.6-Luna，还会污染 Claude Code 抓网页，用起来要小心。
Jul 31
Jul 14
Chinese contentGrok-4.5 Agent Arena排名第13，幻觉指标位列第4
xAI的Grok-4.5在Agent Arena进步明显，幻觉控制做到第4，任务成功提升近7%，适合关注智能体性能的朋友。
Jun 26
Chinese contentHallucination in World Models is Predictable and Preventable
这篇论文用具体数据和实验证明世界模型的幻觉本质是数据覆盖问题，还给出了实用的检测和缓解方法。
Chinese contentRAG评估陷阱：单一平均分可能掩盖幻觉，试试声明级评估
如果你在用RAG做生产系统，这篇讲透了为什么平均分不靠谱，还给了按声明颗粒度和问题类型精准监测的方法，连Milvus怎么分桶都说了，很实用。
Jun 25
Jun 16
Papers10:41
Chinese content家庭真相：利用模型家族中的继承真实头增强上下文真实性这篇论文挺有意思，发现模型家族里真实头会继承，搞了个TruthProbe来减少幻觉，效果不错，适合研究模型可解释性和幻觉问题的人看。
Jun 10
Chinese contentPhantomBench：首个大规模“不存在概念”基准，揭示语言模型幻觉率高达86.7%
做AI安全或模型评估的团队，这个基准直接戳中了当前模型最致命的弱点——它们连“不存在的东西”都分不清，建议用PhantomBench测测自家模型。
May 29
Papers10:13
Chinese contentGary Marcus：LLM 的幻觉源于概率重构，非训练数据Marcus 戳破了“幻觉只靠清洗数据就能解决”的迷思，做 AI 安全或法律 AI 的团队值得深思——模型概率本质才是硬伤。
May 26
Chinese contentGoogle 新论文：LLM 应停止假装确定，诚实表达不确定性
这篇论文点破了 LLM 幻觉的核心矛盾——不是知识不够，而是不知道什么时候该说“不确定”。做 AI 产品、智能体或对话系统的团队，看完会对“诚实比正确更重要”有更深理解，建议直接读原文。
May 15
Products22:35
Chinese content谷歌AI健身教练捏造8.4公里跑步记录，反怪用户漏记AI健康教练的幻觉问题直接挑战付费订阅价值，健身手环用户和AI健康应用开发者值得关注——谷歌能否在正式上线前修复这一致命缺陷。
IT之家Source
May 13
Industry21:36
Chinese content纽约时报编辑注：AI 生成引文被误当作真实言论新闻编辑室和内容创作者必须警惕 AI 工具生成虚假引文的风险——纽约时报的这次失误是活生生的教训，做事实核查的团队建议仔细看。