7月17日
02:01
6月10日
5月31日
09:40
09:40Guillermo Rauch@rauchg
Vercel 的 AI Gateway 新增了按 API 密钥设置消费上限的功能。该功能允许用户为每个 API 密钥单独设定支出限额,防止意外超额消费。此前有用户因 Claude 误用生产环境额度而损失 3000 美元,此功能可有效避免类似问题。该更新让开发者可以放心进行实验,无需担心预算超支。
推荐理由:做 AI 应用开发的团队终于可以放心让成员自由实验了——按 API 密钥设消费上限,防止测试误刷生产额度,建议所有用 Vercel AI Gateway 的开发者立即配置。
5月30日
00:38
00:38官方账号LangChain@LangChainAI
LangSmith 推出了 LLM Gateway 功能,允许用户在请求到达模型之前强制执行支出限制并自动脱敏个人身份信息(PII)。这一功能在请求处理的前端进行控制,而非事后补救,能有效防止预算超支和数据泄露。对于使用大型语言模型的团队来说,这提供了更安全、更可控的调用方式。该功能目前已在 LangSmith 平台上可用。
事件专题

推荐理由:做 LLM 应用开发的团队终于有了预算和隐私的防线——在请求到达模型前就拦截超支和敏感数据泄露,比事后审计靠谱得多,建议直接集成到生产流程。