06:50Guillermo Rauch@rauchgVercel为AI Gateway推出高级支出预算功能,可对团队、项目、API Key分别设定额度上限和告警。该功能还能设置月度循环周期,便于企业按周期管理AI调用成本。AI Gateway本身已支持故障转移、模型和供应商选择、实时可观测性。这次更新让企业在多模型场景下更精细控制支出。AI产品VercelAI Gateway预算管理推荐理由:Vercel给AI Gateway加了预算管理,按团队和项目设额度,超支自动告警,管住AI开销就靠它。原文稍后读已读值得跟进有用关注 Vercel
23:18官方账号LangChain@LangChainAI精选LangChain 在内部测试 LangSmith LLM Gateway 后正式发布。该网关支持实时支出监控,无需等待月底即可了解花费。管理员可按组织、工作空间、用户或 API Key 设置预算。团队可以灵活使用编码代理,避免产生意外费用。相关博客详细介绍了内部测试经验。AI产品LangChainLangSmithLLM Gateway推荐理由:LangChain 推出了 LLM Gateway,能按 API Key 设预算,实时看花了多少钱,团队用 coding agents 也不怕超支。原文稍后读已读值得跟进有用关注 LangChain
11:40官方账号Simon Willison’s Weblog(博客/媒体)Simon Willison 发布了 datasette-llm-limits 0.1a0 插件,与 datasette-llm 和 datasette-llm-accountant 配合使用,可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示,可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题,让 Datasette 管理员能精细控制 AI 功能的使用成本。AI产品DatasetteLLM插件/工具推荐理由:做 Datasette 数据应用的管理员终于能控制 LLM 调用成本了——按用户设每日预算,防止 AI 查询烧光 API 额度,值得一试。原文稍后读已读值得跟进有用关注 Datasette