模型路由是 AI 应用降本增效的关键,做 AI 产品、智能体或基础设施的团队值得关注——它可能成为下一个像 API 网关一样的基础设施层。
Jerry Liu(LlamaIndex 创始人)认为,AI 创业公司将在“模型路由即服务”领域积累大量价值,这不仅是 OpenRouter 这样的通用路由,还包括垂直化的智能体和基础设施。他以文档基础设施(解析、提取、搜索)和网络搜索(Exa/Parallel)为例,说明在准确性与成本的帕累托曲线上找到最佳点既重要又困难。Brian Armstrong 补充说,未来 80% 的工作负载将运行在便宜 99% 的模型上,只有 20% 需要最新高端模型,而 Coinbase 已通过路由提示词到更便宜的模型来保持成本稳定。这揭示了模型路由作为降低 AI 应用成本、提升效率的关键基础设施,对开发者和创业公司是巨大机会。
Jerry Liu(LlamaIndex 创始人)认为,AI 创业公司将在“模型路由即服务”领域积累大量价值,这不仅是 OpenRouter 这样的通用路由,还包括垂直化的智能体和基础设施。他以文档基础设施(解析、提取、搜索)和网络搜索(Exa/Parallel)为例,说明在准确性与成本的帕累托曲线上找到最佳点既重要又困难。Brian Armstrong 补充说,未来 80% 的工作负载将运行在便宜 99% 的模型上,只有 20% 需要最新高端模型,而 Coinbase 已通过路由提示词到更便宜的模型来保持成本稳定。这揭示了模型路由作为降低 AI 应用成本、提升效率的关键基础设施,对开发者和创业公司是巨大机会。
I really do think we'll see a lot of value accrue in AI startups building "model routing as a service" Not just OpenRouter - this includes a much broader set of verticalized agents and infrastructure. * For…