OpenRouter 拉了全平台的缓存命中率数据:1 月才 44%,9 月到 85%,跑智能体应用的话你的 API 账单已经在悄悄变小了。
#缓存
共 17 条 · 7 天 2 条 · 30 天 3 条
信息流里打上「缓存」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月10日
OpenRouter 数据:智能体流量缓存命中率从 44% 升至 85%
10月4日
9月18日
Redis Inc. 将赞助 Interrupt NYC 活动
朋友推荐:Redis Inc. 赞助了 Interrupt NYC,可以去他们的展位体验一下他们的数据平台,对缓存、AI 和实时应用有帮助。
9月9日
9月2日
8月21日
论文10:21
LLM缓存淘汰策略研究:LFU表现最佳研究人员用CLEVER框架测试了7种缓存淘汰策略,发现LFU在大多数情况下表现最好,而其他策略效果差距不大。他们还发现,实际可用的缓存命中率远低于理论值,因为很多命中答案不可替换。这个研究对优化LLM缓存很有参考价值。
8月19日
8月17日
Claude Code 会话价值最大化指南:从缓存、上下文到 Subagent 成本优化
这篇把 Claude Code 的省钱门道讲透了:缓存怎么省、什么时候切模型便宜、哪些命令输出是隐形开销。适合天天用 Claude Code 写代码的人照着调。
8月11日
7月22日
7月9日
Claude Managed Agents 支持子代理,Fable 5 和 Sonnet 5 分别担任顾问与工作代理
Claude Managed Agents 现在能用Fable 5当参谋、Sonnet 5干活,每个子代理还自带缓存省钱,挺实用。
6月29日
Brian Armstrong分享如何让AI支出减半而token用量持续增长
Coinbase创始人Brian Armstrong分享了一套实际操作方案:用更便宜的默认模型、优化缓存和路由,能把AI成本砍半。开源模型GLM 5.2和Kimi 2.7是主角,缓存命中率从5%跳到60%。
6月27日
6月24日
5月29日
5月24日