20:25
官方账号vLLM@vllm_project
官方账号vLLM@vllm_project83°
推荐理由：Kimi 和 vLLM 合作搞了个新缓存方案，K3 模型上来就能高效处理长文本，开源权重明年7月放出来。
KDA前缀缓存
共 1 条相关 AI 资讯
7月18日
20:25
Kimi Moonshot 发布新模型 Kimi K3，并将 KDA 前缀缓存实现直接贡献给 vLLM。KDA 突破了传统前缀缓存的假设，可提升长上下文服务的效率。vLLM 将在发布当天（July 27, 2026）开放权重时同步支持 K3 模型。该合作确保了社区从第一天起就能高效使用长上下文推理。