AITOPAI热报

Multi-tenant

general · First seen 2026-06-29 · Last seen 2026-10-09 · 8 mentions

Overview

Multi-tenant（多租户）指同一套系统实例同时服务多个独立客户或组织，并在数据、权限与资源层面相互隔离的架构模式。随着企业级 AI Agent 与 LLM 服务平台兴起，多租户正从传统 SaaS 领域扩展到模型推理、记忆管理与 Agent 沙箱等新场景，成为衡量一个 AI 基础设施能否商用的核心指标之一。

Multi-tenant 在 AI 基础设施中的近期进展

  • openJiuwen Open-Sources an Enterprise AgentOS for Agent Swarms, Sandboxes and Multi-Tenant Control — 开源项目 openJiuwen 发布了面向企业的 AgentOS，把 Agent 集群编排、沙箱隔离与多租户管控打包为一体化方案，反映出国内开源社区正把多租户能力当作企业级 Agent 平台的基本配置。
  • Implement on-behalf-of token exchange for multi-tenant agents with Amazon Bedrock AgentCore Gateway — AWS 在 Bedrock AgentCore Gateway 中实现了代表用户（on-behalf-of）的令牌交换机制，解决多租户 Agent 场景下身份凭证如何安全穿透多个下游服务的问题。
  • Multi-tenant LLM analytics with row-level security — 另一篇 AWS 工程实践文章展示了如何借助行级安全策略构建多租户 LLM 分析 Agent，说明传统数据库的隔离机制正在被复用到 LLM 应用层。
  • Characterizing Contention-Induced Reliability Collapse in KV-Cache Timing Side Channels for Multi-Tenant LLM Serving — 学术界则关注多租户 LLM 推理的安全边界：研究刻画了 KV-Cache 时序侧信道在资源争用下可能引发的可靠性崩塌，提示共享推理基础设施存在新型泄露与稳定性风险。

    • 当前焦点与观察点

    目前 multi-tenant 讨论集中在三条线上：其一是身份与授权，Agent 代表用户调用工具时如何做令牌交换与最小权限，AWS 的实践提供了参考范式；其二是数据隔离，行级安全、带元数据的记忆过滤（如 AgentCore Memory）被用来防止跨租户信息串扰；其三是资源共享带来的安全与稳定性问题，KV-Cache 侧信道研究表明多租户推理的性能隔离机制本身可能成为攻击面。值得观察的是，开源企业级 Agent 平台与云厂商托管服务正在向多租户能力看齐，但学术界的侧信道与可靠性研究尚未充分转化为工程防护标准，这一差距可能成为未来多租户 AI 服务合规与认证的焦点。

    Coverage

    8 on file