#KDA前缀缓存

1 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "KDA前缀缓存", newest first.

Jul 18

Models US vs ChinaMulti-source83°20:25

Chinese contentKimi K3 发布，KDA 前缀缓存贡献给 vLLM

Kimi 和 vLLM 合作搞了个新缓存方案，K3 模型上来就能高效处理长文本，开源权重明年7月放出来。

#Kimi K3 #vLLM #KDA前缀缓存 #开源模型

官方账号vLLM@vllm_project11 sourcesSource