11:28Harrison Chase@hwchase17LangChain 创始人 Harrison Chase 在 X 上发文指出 LLM 支出正变得非常高,并介绍了 LangChain 的 LLM Gateway 功能,核心是支出可见性和支出控制。该网关可在请求到达模型前强制执行支出限制并脱敏 PII,而非事后处理。目前开放私测注册,旨在帮助团队有效管理 AI 成本。AI产品LangChainLLM Gateway支出控制PII脱敏私测1 个信源在谈推荐理由:LLM 成本飙升是每个 AI 团队的痛点,LangChain 的网关在请求前就拦截超支和敏感数据泄露,比事后补救更实用。做 AI 应用开发或运维的团队,值得立即申请私测体验。原文
00:38LangChain@LangChainAILangSmith 推出了 LLM Gateway 功能,允许用户在请求到达模型之前强制执行支出限制并自动脱敏个人身份信息(PII)。这一功能在请求处理的前端进行控制,而非事后补救,能有效防止预算超支和数据泄露。对于使用大型语言模型的团队来说,这提供了更安全、更可控的调用方式。该功能目前已在 LangSmith 平台上可用。AI产品LangSmithLLM Gateway预算控制PII脱敏安全1 个信源在谈推荐理由:做 LLM 应用开发的团队终于有了预算和隐私的防线——在请求到达模型前就拦截超支和敏感数据泄露,比事后审计靠谱得多,建议直接集成到生产流程。原文