AITOP

治理

共 18 条相关 AI 资讯
8月18日
15:41
15:41官方账号arXiv cs.AI@Steve Brown
精选
Quipu 是一个可嵌入的知识图谱存储，要求每条事实必须通过治理门控，门控谓词评估待写入的后状态。数据、信任标签、裁决和规则本身都是双时态的，命名图作为权威和信任单位，在格下组合且组合不扩大。在 Census 基准上，门控存储 0/6 种植入缺陷，未门控 6/6；50/50 满意裁决按时间点正确重推导，最新规则集下全部误报。在 DEMM-Bench 上，内容读取回答全部 512 个属性级问题且零过度声明，容器存在基线最多过度声明 87.5%。
论文Quipu知识图谱双时态
推荐理由：Quipu 把治理直接做进存储层，门控、双时态、可审计都是内置的，适合搞多智能体写知识图谱的人看看。
原文
8月9日
06:29
7月24日
00:12
7月17日
04:12
6月30日
11:45
11:45官方账号arXiv cs.AI@Tianyu Ding, Aditya Nannapaneni, Bingfan Liu, Ling Zhang
该综述聚焦于“永远在线”的LLM智能体，将其视为持久状态系统，涵盖可检索记忆、任务账本、权限、凭证等。论文提出了六个诊断轴（权威性、范围、可变性、来源、可恢复性、可操作性）和生命周期（写入、验证、组织、检索、行动、更新、遗忘、审计、回滚）。基于435篇论文的编码语料库，发现当前研究集中在状态积累与检索，而忽视治理、恢复与放弃。为此，作者引入了Always-On Evaluation Protocol（AOEP-v0），一种通过评分状态突变和恢复义务来测试治理需求的评估合同。该议程将永远在线智能体与数据库、分布式系统、形式化方法、能力安全和机器遗忘等领域联系起来。
论文Always-On AgentsLLM智能体持久状态
推荐理由：一篇很扎实的综述，把LLM智能体“一直在线”带来的状态管理问题系统化了。有435篇论文支撑，还提出了自己的评估协议AOEP-v0，适合想深入理解智能体持久化设计的读者。
原文
6月18日
18:22
18:22IT之家（博客/媒体）
Anthropic 首席执行官达里奥·阿莫迪在彭博社采访中表示，科技企业必须与政府合作防止权力滥用。他认为当前 AI 发展主要由私营企业推动，但最合理方案是引入公共监督机制。Anthropic 设有“长期利益信托”治理结构，该机构有权任命/撤换董事会成员和解雇 CEO。阿莫迪称，如果他们愿意，甚至可以随时解除他自己的 CEO 职务。这种设计旨在防止高层形成利益集团，确保公司遵循安全原则。
行业AnthropicAI安全治理
事件专题
推荐理由：Anthropic 老板亲口说，公司有个治理机构能随时炒他鱿鱼，就是为了防止高层乱来。挺有意思的制衡设计。
原文
6月9日
21:22
5月30日
22:31
22:31AI Notkilleveryone@ai_zona
AI Zona在X上发起讨论，询问开发者是否愿意在没有治理机制（如审批门、审计追踪、信任评分、升级规则）的情况下将AI Agent部署到生产环境。该问题触及AI Agent落地的核心安全与合规痛点，引发社区对LLMOps最佳实践的反思。关键细节在于，缺乏治理可能导致不可控行为、数据泄露或决策错误，而信任评分和升级规则是降低风险的关键手段。
行业AI Agent治理LLMOps
推荐理由：AI Agent部署的治理问题直接关系到生产环境的安全与可靠性，做Agent落地的团队必须考虑审批门和审计追踪，否则风险不可控。建议点开看看社区怎么选，能帮你避开常见坑。
原文
01:01
5月28日
09:55
03:01
03:01AI Notkilleveryone@ai_zona
AI 代理治理的讨论正在进行，@ai_zona 正在参与其中。他们邀请开发者加入，共同构建生产就绪的代理。项目已开源，提供 npm 包 @aizonaai/adk 和 GitHub 仓库 aizonaai/adk。团队公开构建，欢迎贡献。
行业AI代理治理开源/仓库
推荐理由：AI 代理治理是当前行业焦点，@ai_zona 的开源项目为开发者提供了参与和贡献的机会，做代理相关工作的团队值得关注。
原文
5月27日
23:17
23:17AI Notkilleveryone@ai_zona
83°
AI 智能体生态面临治理危机：大家都在疯狂构建智能体，却无人监管其行为。一个开源 SDK 刚刚发布，旨在解决智能体的治理问题，提供标准化框架来监控、约束和协调智能体。该 SDK 允许开发者定义规则、审计行为并确保合规，有望修复当前混乱的智能体经济。
AI产品智能体开源/仓库治理
推荐理由：智能体治理是当前 AI 落地的最大盲区，做多智能体系统或 AI 产品的团队可以直接用这个 SDK 来填补合规缺口，建议点开看看具体怎么实现。
原文
23:16
10:32
10:32官方账号arXiv cs.AI@Muhammad Zia Hydari, Raja Iqbal, Narayan Ramasubbu
精选
这篇论文提出了一个正式且可管理的模型，区分了 Agentic Technical Debt（智能体技术债务）和 Stochastic Tax（随机税）。Agentic Technical Debt 是设计和治理责任的累积存量，而 Stochastic Tax 是在业务流程中使用随机智能体时产生的运营负担的重复流量。两者相关但不同：债务可能放大税负，即使债务最小化，税负仍可能为正。论文从紧凑的仪表盘表达式出发，扩展为完整的结构模型，定义了所有变量和参数，展示了如何从运营数据中估算每个成本类别，并通过应付账款模拟和配套电子表格进行了说明。
论文智能体技术债务随机税
推荐理由：这篇论文为管理智能体系统的团队提供了量化债务和运营成本的实用框架，做 AI 治理或智能体部署的开发者可以直接用模拟和仪表盘来评估风险。
原文
5月26日
22:24
5月18日
01:04
5月11日
22:17
5月10日
12:24