LangSmith LLM Gateway 上线企业级控制功能

LangSmith LLM Gateway ships with the controls enterprises told us they need first: ✅ Spend limits ✅...

精选理由

企业部署 LLM 最头疼的成本失控和安全风险,LangSmith 这次直接给了 7 个控制开关。用 LangChain 做生产的团队,建议第一时间接入审计日志和消费限额。

AI 摘要

LangSmith 推出 LLM Gateway,首批功能包括消费限额、消费可见性、PII 和密钥检测、追踪连续性、LangSmith Engine 集成、审计日志和分层执行。这些功能直接响应企业客户的核心需求,帮助团队在部署 LLM 时实现成本控制、安全合规和可观测性。对于使用 LangChain 的企业团队,这是管理生产环境 LLM 调用的关键工具。

AI 翻译 · 中文

LangSmith 推出 LLM Gateway,首批功能包括消费限额、消费可见性、PII 和密钥检测、追踪连续性、LangSmith Engine 集成、审计日志和分层执行。这些功能直接响应企业客户的核心需求,帮助团队在部署 LLM 时实现成本控制、安全合规和可观测性。对于使用 LangChain 的企业团队,这是管理生产环境 LLM 调用的关键工具。

LangChainLangSmith LLM Gateway ships with the controls enterprises told us they need first: ✅ Spend limits ✅ Spend visibility ✅ PII and secrets detection ✅ Trace continuity ✅ LangSmith Engine integration ✅ Audit logging ✅ Layered