23:18LangChain@LangChainAI精选LangChain 在内部测试 LangSmith LLM Gateway 后正式发布。该网关支持实时支出监控,无需等待月底即可了解花费。管理员可按组织、工作空间、用户或 API Key 设置预算。团队可以灵活使用编码代理,避免产生意外费用。相关博客详细介绍了内部测试经验。AI产品LangChainLangSmithLLM Gateway预算管理API Key推荐理由:LangChain 推出了 LLM Gateway,能按 API Key 设预算,实时看花了多少钱,团队用 coding agents 也不怕超支。原文
11:40Simon Willison’s Weblog(博客/媒体)Simon Willison 发布了 datasette-llm-limits 0.1a0 插件,与 datasette-llm 和 datasette-llm-accountant 配合使用,可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示,可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题,让 Datasette 管理员能精细控制 AI 功能的使用成本。AI产品DatasetteLLM插件/工具成本控制预算管理推荐理由:做 Datasette 数据应用的管理员终于能控制 LLM 调用成本了——按用户设每日预算,防止 AI 查询烧光 API 额度,值得一试。原文