08:03AI SDK@aisdkOpenPolicyAgent 推出了新的 toolApproval API,用于在 AI 系统中执行策略控制。该 API 允许开发者定义和强制实施工具使用审批规则,确保 AI 代理的行为符合安全与合规要求。这对于需要精细控制 AI 工具调用的团队尤为重要,可以防止未授权的操作。目前该 API 已可用,开发者可以直接集成到现有工作流中。AI产品OpenPolicyAgent工具审批API策略执行AI安全推荐理由:做 AI 安全与合规的团队终于有了原生策略执行方案——toolApproval API 让工具调用审批变得可编程,建议安全工程师和平台开发者直接集成。原文
22:44LangChain@LangChainAILangChain 分享了一个真实案例:一个编码代理在夜间陷入重试循环,到早上已调用 LLM 达 10,000 次,产生四位数的账单。问题在于,可观测性只能事后告诉你发生了什么,而无法在事前阻止。要避免此类问题,需要在请求层强制执行策略,例如限制重试次数或设置调用上限。这提醒开发者,构建可靠 AI 代理时,策略控制比事后监控更重要。行业编码代理成本控制LLM调用可观测性策略执行推荐理由:做 AI 代理开发的团队都会遇到这类成本失控风险,LangChain 这个案例直接点出了「事后监控 vs 事前策略」的痛点,建议在部署前就加上请求层限制。原文