22:22Decoder@Maximilian Schreiner保险公司开始使用扩散模型等生成式AI技术进行灾难建模,可生成数万个历史数据中不存在的合理天气事件。他们希望借此进行更精确的风险评估。然而研究人员警告称,AI生成的模拟事件可能存在幻觉和销售逻辑误导,影响实际决策准确性。行业保险公司生成式AI灾难建模幻觉风险评估推荐理由:保险公司用生成式AI做灾害建模,能补历史数据缺漏,但小心AI幻觉和销售套路,实际效果还得看验证。原文
13:58marktechpost@Michal Sutter精选OpenAI于2026年6月16日推出Deployment Simulation方法,通过回放历史对话让新候选模型生成完成并评分,以估计部署时不良行为率。该方法报告了1.5倍中位数乘法误差,将预部署风险评估扩展至智能体编码场景。文章还讨论了该方法的局限性,如无法覆盖所有风险类型。AI模型OpenAIDeployment SimulationAI安全风险评估10 个信源在谈推荐理由:OpenAI搞了个新方法,用历史对话模拟测试模型,能估算不良行为率,误差才1.5倍,做AI安全评估的朋友可以看看。原文