AI Gateway

general · First seen 2026-05-22 · Last seen 2026-10-19 · 113 mentions

Overview

AI Gateway 是应用与大模型之间的统一接入层,开发者通过一个 API 即可调用和切换多家模型供应商,并获得计费、限流、日志等运维能力。随着 AI 应用从单模型调用走向多模型路由与 Agent 编排,AI Gateway 正成为 AI 基础设施中的关键一环,Vercel、Cloudflare、Portkey 等厂商都在这一赛道上加码。

AI Gateway 近期进展

  • Jev 成为 Vercel AI Gateway 上采用速度最快的模型:TechCrunch 报道,Jev 在 Vercel AI Gateway 上的采用速度创下平台纪录,反映出开发者正在通过网关层快速尝试新兴模型,而非只依赖少数头部模型。
  • Vercel 发布 2026 年 10 月 AI Gateway Index:开放权重模型占 token 量超 70%:Vercel 的月度指数显示,开放权重模型在平台 token 消耗量中占比超过 70%,说明开源与自托管模型的实际用量已在网关层占据主导。
  • MiniMax M3.1 Flash 上线 Vercel AI Gateway,10 月 22 日前免费使用:MiniMax 新模型通过 Vercel AI Gateway 分发,并限时免费,厂商正把网关当作新模型冷启动的主要渠道之一。此外,Gemini 4 Argon 也于 上线时提供 12 月 1 日前五折。
  • Vercel AI Gateway 新增统一视图,可查看所有 Agent 会话日志:针对多模型 Agent 场景,网关层开始承担跨模型的会话追踪与可观测性职能,这也被视作 AI Gateway 区别于传统 API 网关的核心能力。
  • 当前焦点与观察点

    AI Gateway 赛道的竞争正在从“接入更多模型”转向生态位争夺。一方面,Perplexity 的 Decider V1.2、Meta 的 Muse Wonder、免费模型 stealth/cat-jam 等新模型密集选择网关首发,网关逐渐成为模型分发的流量入口;rauchg 还演示了用 DeepSeek v4.1 Flash 快速版改进小游戏、成本仅 30 美元的案例,凸显网关在成本控制上的价值。

    另一方面,AI Gateway 正在沉淀数据:月度用量指数(如开放权重模型超 70% 的 token 占比)使网关厂商掌握了模型市场趋势的话语权。观察点包括:网关是否会向上延伸出模型路由与评测等决策能力,免费与折扣策略能否持续拉新,以及企业用户对跨厂商会话日志的合规与隐私要求如何影响产品设计。

    Coverage

    10 on file