Chinese content阿里云 Model Studio 推出 context caching，重复提示词只计费一次
阿里云 Model Studio 上线了 context caching，重复的 prompt 和文档缓存一次就能反复用，还能省不少调用费，做 LLM 应用的可以看看。
#context caching
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "context caching", newest first.
Oct 23
