Authority

general · First seen 2026-05-22 · Last seen 2026-10-26 · 307 mentions

Overview

Authority(权威机制)在 AI 领域通常指系统、模型或智能体在执行操作时所需的可信授权与责任归属框架,它决定谁能批准 AI 的行为、AI 的输出是否具有约束力。随着 AI 从对话工具走向能打电话、处理私人数据的智能体,Authority 正从抽象概念变成工程与治理层面的核心议题。

Authority 的近期进展

  • 2026 年 8 月发布的论文 AI with Authority, from Application to Silicon 提出从应用层一直贯穿到芯片层的权威机制设计,主张 AI 系统的决策权限应当被逐层明确,而非由模型自由裁量,这是把 Authority 从治理讨论推向系统架构的代表性工作。
  • 在治理侧,谷歌、OpenAI、Anthropic 拟共建 AI 安全自律组织 SAFA,三大前沿实验室试图通过行业自律组织来划分安全责任边界,可视为企业在监管落地前对自身 Authority 的主动安排。
  • 智能体权限扩张也引发关注:Google Gemini "Call for Me" 或将扩展至拨打亲友电话,AI 代人通话意味着用户需要向模型授予社交层面的行为权限。
  • 数据授权层面,Google 更新隐私政策:使用 Gmail 和 Photos 数据或可用于广告定向,用户数据如何被 AI 使用、由谁授权,成为 Authority 议题中最贴近个人的部分。
  • 当前焦点与观察点

    目前围绕 Authority 的讨论集中在三个方向。其一是技术架构:如何让智能体长期记忆和自主操作不失真、可追溯,相关研究如 Memory Echo 现象与 FPA 框架已在探索修复智能体记忆失真的方法。其二是终端落地:vivo 宣布将支持安卓 AI 诈骗检测功能,此前谷歌、三星已先行一步,说明设备厂商正在把"识别可疑来电"这类决策权威下放给端侧模型。其三是产品隐私边界:Pixel 设备用 Gemini Nano 分析电池使用情况、Gboard Rambler 功能学习用户口语词汇等,都涉及数据在本地与云端之间授权流动的界定。

    值得观察的是,AI 的权限正在从"回答问题"扩展到"代替行动"——拨打电话、整理语音、判定诈骗,每一次扩展都在重新划定人机之间的授权边界。行业自律组织能否落地、端侧与云端权限如何分配、用户能否真正掌控自己的数据授权,将决定 Authority 这一议题未来一年的走向。

    Coverage

    10 on file
    Authority · AI 话题观测|AI热报