#AI hallucinations

Ethan Mollick 说新模型查证事实已经比博士专家还准，你可能不需要那么怕 AI 瞎编

Ethan Mollick@emollickSource

美国律师用 ChatGPT 生成诉讼文书，结果被罚款，这个案例很具体，能说明 AI 在法律文书中的应用风险。

ACCS给澳大利亚政府做的年龄验证报告翻车了，引用一堆假文献还甩锅AI，参议院正查呢。

谷歌说AI答错有时是“丢钥匙”而不是“空货架”，这比喻太好懂了。想明白为什么模型会一本正经胡说八道，可以看看这篇。

四大会计师事务所都翻车了，PwC中东的AI报告84%造假，连客户引用都是编的，这可不是小事。

Official accountDecoder@Matthias BastianSource

这个 HalluSquatting 漏洞能让 AI 代码助手自动跑去假仓库下载恶意代码，Attackers 用起来成功率近 100%，用 Cursor 或 Claude 写项目时千万留意。

法官被AI幻觉折磨

司法系统对AI准确性的要求极高，英国警方的叫停案例给所有在严肃场景使用AI的团队敲响警钟——做法律、合规、审计相关工作的开发者，建议看看AI幻觉如何在实际应用中引发信任危机。