ai-governance

general · First seen 2026-05-22 · Last seen 2026-11-16 · 28 mentions

Overview

AI governance(人工智能治理)指的是围绕人工智能的开发、部署与使用建立的一整套管理机制,涵盖企业内部的访问控制、审计追踪,以及欧盟 AI Act 这类法规合规框架。随着 AI 应用从实验走向企业核心流程,治理重点正从宏观伦理讨论转向可落地的技术与流程管控。近期动态显示,治理工具链正在加速成型,中小企业合规指导、平台级访问控制与可验证审计成为三个明显的方向。

AI governance 的近期进展

  • 用Jamf AI Governance和Amazon Bedrock管理Mac上的AI应用:AWS 发布了结合 Jamf AI Governance 与 Amazon Bedrock 的方案,用于管理企业 Mac 设备上的 AI 应用,体现终端侧 AI 治理正在产品化。
  • TESSA: A Governance-Oriented Custom GPT for SME Guidance under the EU AI Act:arXiv 论文介绍了面向中小企业的 TESSA,一个基于欧盟 AI Act 提供合规指导的定制化 GPT,并对其设计、实现与效果做了评估,显示法规遵从类 AI 工具进入学术验证阶段。
  • Your AI app is for internal use. But can anyone access it?:Dify 宣布在其平台上推出 IP 访问控制功能,帮助企业限制内部 AI 应用的访问范围,回应了内部 AI 工具暴露面管理的实际需求。
  • Logs show what happened. Verifiable receipts help prove it.:Dify 还通过生态合作推出可验证凭证(verifiable receipts),让 AI agent 发送邮件、执行审批等操作留下可证明的审计痕迹,补上自主代理时代的问责短板。
  • 当前焦点与观察点

    当前 AI governance 的争议与关注点集中在三方面。其一是责任归属:企业内部谁真正拥有 AI 治理职责尚无定论,市场、法务与 IT 团队之间的边界仍在划分中。其二是法规落地:欧盟 AI Act 的合规要求催生了 TESSA 这类面向中小企业的指导工具,但中小企业资源有限,如何低成本达标仍是开放问题。其三是审计与可验证性:随着 AI agent 开始自主执行邮件、审批等敏感操作,传统日志已不足以支撑问责,可验证凭证等机制被视为下一步基础设施。整体来看,2026 年的 AI governance 正从抽象的伦理框架转向具体的访问控制、审计凭证与合规工具,企业侧工具链与监管要求正在双向逼近。

    Coverage

    10 on file