精选理由
做AI智能体上线的小伙伴必看，Clay的AI负责人亲自讲了怎么降本70%和优化队列，干货12分钟。
Jeff Barg在Interrupt会议上透露，Clay每月运行3.5亿个GTM智能体。他指出，缓存可将LLM调用成本降低高达70%。限制工具调用范围不仅能节省成本，还能提升输出质量。在多租户负载下，引入公平队列机制至关重要。
AI 翻译 · 中文
Jeff Barg在Interrupt会议上透露，Clay每月运行3.5亿个GTM智能体。他指出，缓存可将LLM调用成本降低高达70%。限制工具调用范围不仅能节省成本，还能提升输出质量。在多租户负载下，引入公平队列机制至关重要。
At Interrupt, @Clay 's Head of AI @jeffbarg shared insights from running 350m GTM agents a month. ✅ Caching can cut LLM costs up to 70% ✅ Bounding tool calls often improves quality, not just cost ✅ Fairness queues ma…