精选理由
司法系统对AI准确性的要求极高，英国警方的叫停案例给所有在严肃场景使用AI的团队敲响警钟——做法律、合规、审计相关工作的开发者，建议看看AI幻觉如何在实际应用中引发信任危机。
英国多个警察部门因担忧AI生成不准确内容扰乱司法流程，已被叫停使用AI系统撰写法庭陈述及开展刑事司法工作。英国警方人工智能中心负责人亚历克斯·默里表示，部分警队在未完成合规评估的情况下就使用商用AI工具，已要求立即暂停。此举凸显生成式AI在警务领域的应用争议，此前西米德兰兹郡警方使用微软Copilot生成的材料曾出现编造事实的“幻觉”问题。默里认为，经过全面测试的AI仍有望提升效率，但需先建立完善的安全保障机制。
AI 翻译 · 中文
英国多个警察部门因担忧AI生成不准确内容扰乱司法流程，已被叫停使用AI系统撰写法庭陈述及开展刑事司法工作。英国警方人工智能中心负责人亚历克斯·默里表示，部分警队在未完成合规评估的情况下就使用商用AI工具，已要求立即暂停。此举凸显生成式AI在警务领域的应用争议，此前西米德兰兹郡警方使用微软Copilot生成的材料曾出现编造事实的“幻觉”问题。默里认为，经过全面测试的AI仍有望提升效率，但需先建立完善的安全保障机制。
IT之家 6 月 7 日消息，据英国《金融时报》报道，由于担忧人工智能生成的不准确内容会扰乱司法流程，英国多个警察部门已接到通知，停止使用人工智能系统撰写法庭陈述及开展其他刑事司法相关工作。 英国警方人工智能中心（ Police.AI ）负责人亚历克斯・默里表示，他已介入干预部分警队。这些警队在未完成全面合规评估的情况下，就开始使用市面上的商用人工智能工具。 “我们已经叫停了部分相关应用。”默里称，他告知相关警队：“立刻暂停使用，我们需…