精选理由
企业部署 LLM 最头疼的成本失控和安全风险,LangSmith 这次直接给了 7 个控制开关。用 LangChain 做生产的团队,建议第一时间接入审计日志和消费限额。
LangSmith 推出 LLM Gateway,首批功能包括消费限额、消费可见性、PII 和密钥检测、追踪连续性、LangSmith Engine 集成、审计日志和分层执行。这些功能直接响应企业客户的核心需求,帮助团队在部署 LLM 时实现成本控制、安全合规和可观测性。对于使用 LangChain 的企业团队,这是管理生产环境 LLM 调用的关键工具。
AI 翻译 · 中文
LangSmith 推出 LLM Gateway,首批功能包括消费限额、消费可见性、PII 和密钥检测、追踪连续性、LangSmith Engine 集成、审计日志和分层执行。这些功能直接响应企业客户的核心需求,帮助团队在部署 LLM 时实现成本控制、安全合规和可观测性。对于使用 LangChain 的企业团队,这是管理生产环境 LLM 调用的关键工具。
LangSmith LLM Gateway ships with the controls enterprises told us they need first: ✅ Spend limits ✅ Spend visibility ✅ PII and secrets detection ✅ Trace continuity ✅ LangSmith Engine integration ✅ Audit logging ✅ Layered…