#提示缓存

共 6 条 · 7 天 1 条 · 30 天 1 条

OpenAI 3 Amazon Bedrock 1 Fireworks AI 1 Fireworks Nexus 1 GPT-5.6 1 UnifyGTM 1 代理应用 1 工具调用 1

信息流里打上「提示缓存」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月4日

技巧 Agent 与开发者多源确认83°00:00

OpenAI DevDay优化代理应用的四个关键技巧

OpenAI DevDay分享的四个优化代理应用的关键技巧，帮你平衡成本和性能。

#OpenAI #代理应用 #提示缓存 #工具调用

elvis@omarsar011 个信源在谈原文

9月1日

产品多源确认73°23:28

OpenAI提示缓存技术降低90%请求成本

OpenAI推出提示缓存技术，成本降90%，但每秒仅15次请求，UnifyGTM通过自定义路由实现95%命中率

#OpenAI #提示缓存 #缓存命中率 #UnifyGTM

官方账号LangChain@LangChainAI11 个信源在谈原文

7月31日

产品官方一手75°00:09

Amazon Bedrock 为 OpenAI GPT-5.6 引入显式提示缓存

亚马逊Bedrock现在支持GPT-5.6，还能自己控制缓存哪些提示，省成本又灵活。

#Amazon Bedrock #GPT-5.6 #OpenAI #提示缓存

官方一手AWS Machine Learning Blog@Melanie Li11 个信源在谈原文

7月28日

Fireworks AI 推出 Fireworks Nexus 管理 AI 基础设施

Fireworks AI 搞了个 Nexus，能自动把简单活儿丢给开源模型省钱，难的留给前沿模型，还能缓存提示省 token，集中管预算权限，团队省心省力。

#Fireworks AI #Fireworks Nexus #智能路由 #提示缓存

Fireworks AI@FireworksAI_HQ2 个信源在谈原文

5月29日

模型中美对照多源确认精选76°08:38

Claude Opus 4.8 发布：诚实改进，小幅升级

Anthropic 坦诚承认这是小幅升级，但诚实性改进和对话中系统消息功能对做长对话应用或智能体开发的团队很实用，建议关注缓存优化带来的成本节省。

#Claude Opus 4.8 #Anthropic #诚实性 #对话系统消息

官方账号Simon Willison’s Weblog11 个信源在谈原文

5月19日

产品精选05:14

Claude Console 新增提示缓存诊断功能

Claude API 重度用户终于能看清缓存失效的代价了——直接定位提示变化点并计算 token 浪费，做提示工程优化的团队建议立刻试试。

#Claude #提示缓存 #API 调试 #成本优化

claudedevs@claudedevs原文