Chinese contentPrime Intellect 通过 OpenRouter 一年内月 token 用量从 11B 涨到 1T+
Prime Intellect 把推理流量全接到 OpenRouter 上，一年内月 token 用量从 11B 冲到 1T+，单 token 成本还降了约 60%。做应用的朋友可以看看多模型路由怎么帮你切换供应商、压成本，不用再对接每家 API。
#LLM gateway
7 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "LLM gateway", newest first.
Nov 13
Sep 22
LangSmith offers free SemIf model
Developers in ASEAN can access SemIf free for testing without cost during this limited period.
Aug 25
Aug 8
Chinese contentLangSmith 平台新增网关护栏追踪，支出与敏感数据控制一目了然
LangChain 把网关护栏和 trace 打通了，触发后直接看记录改配置，不用再翻日志。用 LangSmith 的可以试试。
Aug 7
Chinese contentLangSmith LLM Gateway 接入 Kimi K3
LangSmith 网关现在直接支持 Kimi 3 了，拿你现有的 API key 就能跑，不用另外搞权限，Fireworks 提供算力。
Jul 31
Chinese contentLangSmith Gateway 公开测试版发布，集成编程代理与成本控制
LangChain 发了新网关，能控制花销和速率，还能自动给数据脱敏，跟编程代理直接连，甚至支持 kimi-k3，干活更方便了。
Jul 1