缓存预热有意义：面向智能体工作负载的保活经济学

前沿大模型提供商（如Anthropic、OpenAI、Google、DeepSeek）缓存已处理的提示前缀，后续相同前缀请求仅需支付约10%输入价格并跳过大部分预填充延迟。然而智能体工作流因工具调用或等待常间隔数分钟，导致缓存被清除而需全额重新预填充。本文提出客户端保活机制，在空闲期间定时重放前缀以保持缓存热度，在Anthropic的5分钟TTL下最优为4分钟间隔，可将后续请求成本降低最多12.5倍。盈亏平衡分析显示，对于Anthropic，若空闲超过约46分钟则保活不再优于重新预填充。