04:44rohanpaul_ai@rohanpaul_ai大多数 AI 团队仍像从单一供应商买软件一样购买推理服务:选一个模型、接受固定价格、持续付费,即使更便宜的模型也能完成相同工作。The Grid AI 采用不同方法:用户只需选择任务等级(标准、高级、最大),系统自动将请求路由到符合该等级的最便宜供应商。这意味着应用使用同一 API,但背后的模型可随价格和质量变化。作者在 Ubuntu 上测试了 Hermes Agent 与 The Grid 的集成,用于读取支持工单、应用策略文件并编写分类报告。AI产品推理路由成本优化The Grid AI模型选择API推荐理由:做 AI 推理的团队终于有了按需降本的方法——不用改代码就能自动切换更便宜的模型,适合处理大量相似任务的开发者直接试试。原文