精选理由
做 LLM 应用开发的团队终于有了预算和隐私的防线——在请求到达模型前就拦截超支和敏感数据泄露，比事后审计靠谱得多，建议直接集成到生产流程。
LangSmith 推出了 LLM Gateway 功能，允许用户在请求到达模型之前强制执行支出限制并自动脱敏个人身份信息（PII）。这一功能在请求处理的前端进行控制，而非事后补救，能有效防止预算超支和数据泄露。对于使用大型语言模型的团队来说，这提供了更安全、更可控的调用方式。该功能目前已在 LangSmith 平台上可用。
原文 · LangChain
LangSmith LLM Gateway lets you enforce spend limits and redacts PII before requests reach the model....
LangSmith LLM Gateway lets you enforce spend limits and redacts PII before requests reach the model. Not after the fact. 💬 3 🔄 5 ❤️ 19 👀 2587 📊 7 ⚡
- Harrison Chase05-29 15:41原文