微软联合埃森哲、Adobe、万事达卡等 40 多家组织推进 AI 透明度开放标准
微软联合埃森哲、Adobe、万事达卡、沃尔沃等 40 多家组织推进 AI 标准:强调观察、验证和控制,覆盖闭源和开放权重模型
智能体自主执行任务后,审计责任怎么界定一直没标准,微软拉上 40 多家大企业牵头定规则,还承诺接入 Foundry 和 Copilot 落地。做企业级 AI 部署的安全和合规团队应该仔细看,这套框架会直接影响采购和审计要求。
微软在 11 月 18 日的 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),联合埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织推动制定跨模型、跨服务商的开放标准。该计划同时覆盖闭源模型和开放权重模型,企业更换底层模型时可沿用现有安全管理和合规审计机制。
计划分三步推进:扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative 的参与;与 40 多家组织共建开放标准,要求 AI 系统具备可问责性和独立验证能力;把成果整合进 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品,让企业将 AI 活动证据接入微软或其他供应商的合规工具。
实施框架围绕观察、验证、控制三个环节展开。观察要求记录 AI 的指令、授权、模型与运行环境、数据访问及实际操作;验证强调不能把 AI 智能体作为证明自身行为的唯一来源,需结合身份认证和策略管理系统交叉核实;控制则要求企业保留对智能体权限的限制能力,并能在安全事件发生后还原经过用于调查和审计。
微软联合埃森哲、Adobe、万事达卡、沃尔沃等 40 多家组织推进 AI 标准:强调观察、验证和控制,覆盖闭源和开放权重模型
IT之家 11 月 18 日消息,微软今日在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织合作,共同推动制定适用于不同 AI 模型和服务提供商的开放标准,以加强 AI 系统的透明度、安全性和治理能力。 微软董事长兼 CEO 萨提亚・纳德拉宣布,公司将与客户及合作伙伴展开合作,推动建立一套开放、通用的 AI 安全与治理框架。 微软表示,随着企业将 AI 模型接入内部数据、工具、凭据和基础设施,AI 智能体(Agent)已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察 AI 活动的部分信息,难以还原模型从接收请求到产生结果之间的完整过程,也无法独立验证模型对自身行为的描述。这给企业的安全管理、合规审计和责任追溯带来了新的挑战。 此次计划主要包含三个方面。首先,微软将扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative(AI 智能体标准计划)的参与,并利用相关研究推动制定覆盖 AI 透明度、安全性和治理的行业开放标准。 其次,微软将与 40 多家组织合作,推动建立适用于不同模型和服务提供商的开放标准,使 AI 系统具备可问责性、独立验证能力,并在设计阶段纳入安全机制。微软强调,这套标准将同时适用于闭源模型和开放权重模型,企业更换或升级底层模型时,也能够继续使用现有 IT 安全管理和合规审计机制。 第三,微软计划将相关成果整合到 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务中,让企业客户能够将 AI 活动产生的证据接入微软或其他供应商提供的安全与合规工具。 在具体实施方面,微软将计划概括为三个环节:观察、验证和控制。IT之家总结如下: 观察环节要求企业能够了解 AI 接收了什么指令、获得了哪些授权、使用了什么模型和运行环境、访问了哪些数据与工具,以及实际执行了哪些操作,同时持续监控智能体活动和风险信号。 验证环节强调,AI 智能体不能成为证明自身行为的唯一信息来源。企业需要结合模型、运行环境以及身份认证和策略管理等独立系统提供的记录,对 AI 的身份、授权意图和实际操作进行交叉验证,而不能仅依赖模型服务提供商对其行为的描述。 控制环节则要求企业保留对 AI 权限的管理能力,包括限制智能体可以访问的数据、执行的操作以及获得的授权。当发生安全事件时,企业还应能够利用相关记录还原事件经过,并用于调查、风险控制、恢复和审计。 微软安全业务执行副总裁 Hayete Gallot 表示,为了让安全控制真正发挥作用,企业需要提高对模型内部运行情况的透明度。 Adobe 首席安全官 Aanchal Gupta 和毕马威国际全球首席信息安全官 John Israel 也分别表示,企业需要更清晰地了解 AI 智能体访问了哪些资源、执行了哪些操作,以及如何独立验证这些行为。 微软称,随着 AI 智能体进一步融入企业运营,组织必须继续对其行为承担责任,不能将 AI 本身作为规避责任的理由。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy and AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Microsoft, NIST, AI safety, agents.
Source attribution: curated from IT之家.