AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：模型路由×
6月28日
16:18
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
01:46
6月10日
23:46
6月8日
18:42
18:42Julien Chaumond@julien_c
Coinbase CEO Brian Armstrong 在 X 上分享了对模型路由趋势的看法，认为对智能的需求近乎无限，但未来 12-18 个月内，80% 的工作负载将运行在便宜 99% 的模型上，仅 20% 需要最新高端模型。他类比高端 MacBook 或游戏 PC 的配置比例，指出价格下降速度远超摩尔定律，因此瓶颈将是能源和算力而非模型本身。Coinbase 正积极将提示路由到更便宜的模型，在 token 使用量指数增长的同时保持成本基本持平。
行业模型路由成本优化CoinbaseAI 基础设施行业趋势
推荐理由：做 AI 应用或负责成本优化的团队，这条关于模型路由的洞察直接关系到你的预算和架构选择——Coinbase 已经验证了在 token 使用暴增时成本可控的路径，值得参考。
原文
13:30
13:30Jerry Liu@jerryjliu0
精选
Jerry Liu（LlamaIndex 创始人）认为，AI 创业公司将在“模型路由即服务”领域积累大量价值，这不仅是 OpenRouter 这样的通用路由，还包括垂直化的智能体和基础设施。他以文档基础设施（解析、提取、搜索）和网络搜索（Exa/Parallel）为例，说明在准确性与成本的帕累托曲线上找到最佳点既重要又困难。Brian Armstrong 补充说，未来 80% 的工作负载将运行在便宜 99% 的模型上，只有 20% 需要最新高端模型，而 Coinbase 已通过路由提示词到更便宜的模型来保持成本稳定。这揭示了模型路由作为降低 AI 应用成本、提升效率的关键基础设施，对开发者和创业公司是巨大机会。
行业模型路由AI 基础设施成本优化智能体OpenRouter
推荐理由：模型路由是 AI 应用降本增效的关键，做 AI 产品、智能体或基础设施的团队值得关注——它可能成为下一个像 API 网关一样的基础设施层。
原文
08:42
6月7日
03:09
03:09Jerry Liu@jerryjliu0
精选
LlamaIndex 创始人 Jerry Liu 指出，没有前沿实验室能独占成本、延迟与精度的帕累托前沿所有点，开源模型在成本上可低数个数量级。他观察到组织对模型路由和成本优化的兴趣激增，原因包括企业更谨慎管理成本，以及 AI 初创公司寻求构建护城河和提高毛利率。他引用 Chamath 的数据对比：每月 10 亿 token 输入/输出场景下，GPT-5.5 Pro 成本约 10.5 万美元，而 DeepSeek V4 Pro 仅需 5220 美元，能力差距远小于价格差距。Jerry 认为，随着控制平面（如 Software Factory）普及，前沿实验室收入增速将下降，开源模型收入将飙升。
行业开源模型成本优化模型路由帕累托前沿LlamaIndex
推荐理由：Jerry Liu 用真实成本数据揭示了模型选择的巨大经济差异，做 AI 应用选型或成本控制的团队值得仔细看——选对模型能省下 20-40 倍 token 成本。
原文
6月3日
23:42
19:13
19:13小互@imxiaohu
国内团队开源了 OpenSquilla，用 Python 重写了“小龙虾”项目，解决了其 Token 消耗高、不按规则执行和安全问题。它集成本地小模型，对请求进行智能路由：简单任务派给便宜模型，复杂任务才用顶级模型，类似医院分诊。官方测试显示，25 个任务混合使用 Opus 4.7、GLM 5.1 和 DS4 Flash，成本从 6.2 美元降至 0.68 美元，效果几乎一致。此外，它还能根据对话语义只注入匹配度最高的 Skill，避免将所有 Skill 描述塞入上下文，100 次对话可省 100 万 Token。
AI产品开源/仓库Token 优化模型路由成本控制Python
推荐理由：AI 调用成本高、Token 浪费严重的团队终于有了实用解法——OpenSquilla 智能路由能省 90% 费用，做多模型编排或 Skill 密集型应用的开发者值得立刻试试。
原文
08:52
07:45
07:45Jerry Liu@jerryjliu0
LlamaIndex 创始人 Jerry Liu 指出，初创公司相比前沿实验室的一个核心优势在于模型路由（model routing）能力。随着开源和闭源模型在成本-性能曲线上形成健康分布，初创公司可以通过为每个任务精准选择最合适的模型，在保持前沿性能的同时将成本和延迟降低 2-10 倍。Factory 推出的模型路由功能正是这一理念的实践，能自动为每个任务选择最佳模型，削减 25% 成本。这一策略让初创公司能够优化模型组合，实现更高的效率。
AI产品模型路由成本优化初创公司Agent/智能体Factory
推荐理由：模型路由是 AI 应用落地的关键杠杆，做 AI 产品/Agent 的团队可以直接借鉴——用更少的钱跑出更好的效果，建议点开看看具体怎么实现。
原文
5月28日
06:14
06:14rohanpaul_ai@rohanpaul_ai
The Grid 是一个智能推理路由层，它根据任务复杂度自动选择最合适的模型，并按实时市场价格计费，而非固定费率。用户只需定义任务等级（标准、高级、最大），The Grid 会在多个供应商中动态选择最便宜的可用模型。这避免了为简单任务支付高端模型费用，也摆脱了对单一供应商的依赖。新用户可免费使用前 2 亿 token。作者演示了如何将 Hermes Agent 与 The Grid 集成，在本地运行代理但通过 The Grid 调用 AI。
AI产品推理成本模型路由供应商管理Hermes AgentAPI
推荐理由：做 AI 应用开发的团队，如果还在为推理成本头疼，The Grid 的思路值得一试——它用市场机制替代了固定定价，简单任务不再花冤枉钱。
原文
5月11日
22:18