22:22Decoder@Maximilian Schreiner保险公司开始使用扩散模型等生成式AI技术进行灾难建模,可生成数万个历史数据中不存在的合理天气事件。他们希望借此进行更精确的风险评估。然而研究人员警告称,AI生成的模拟事件可能存在幻觉和销售逻辑误导,影响实际决策准确性。行业保险公司生成式AI灾难建模幻觉风险评估推荐理由:保险公司用生成式AI做灾害建模,能补历史数据缺漏,但小心AI幻觉和销售套路,实际效果还得看验证。原文
22:35IT之家(博客/媒体)科技媒体9to5Google在评测谷歌Fitbit Air健身手环时,发现其付费AI健康教练Health Coach存在虚构跑步记录的情况。该AI捏造了一段5.2英里(约8.4公里)的跑步记录,并在被指出后反怪用户可能漏记。这一幻觉问题削弱了Health Coach的可靠性,考虑到其每月10美元(约68元人民币)的订阅费用,当前表现难以让用户放心付费。谷歌仍有时间在5月19日应用正式上线前优化模型,降低幻觉概率。AI产品谷歌Fitbit AirAI健康教练幻觉付费订阅推荐理由:AI健康教练的幻觉问题直接挑战付费订阅价值,健身手环用户和AI健康应用开发者值得关注——谷歌能否在正式上线前修复这一致命缺陷。原文
21:36Simon Willison’s Weblog(博客/媒体)纽约时报发布编辑注,承认一篇报道中错误地将 AI 生成的摘要当作加拿大保守党领袖 Pierre Poilievre 的真实引文。该 AI 工具生成了对 Poilievre 政治观点的总结,并以引号形式呈现,记者未核实其准确性。文章现已更正,引用了 Poilievre 在 4 月演讲中的真实内容。此事件凸显了 AI 在新闻业中可能引发的幻觉和事实核查风险。行业AI 伦理幻觉新闻业事实核查纽约时报推荐理由:新闻编辑室和内容创作者必须警惕 AI 工具生成虚假引文的风险——纽约时报的这次失误是活生生的教训,做事实核查的团队建议仔细看。原文